Westfield Devlet Okulları, Mart ayı sonlarında Westfield, New Jersey'deki kırmızı tuğlalı bir kompleks olan yerel lisede düzenli bir yönetim kurulu toplantısı düzenledi ve dışarıda “Mavi Şeytanların Evi” spor takımlarının ziyaretçilerini gururla karşılayan bir skor tablosu vardı.

Ancak Dorota Mani için işler her zamanki gibi değildi.

Ekim ayında, Westfield Lisesi'ndeki bazı 10. sınıf kızları (Bayan Mani'nin 14 yaşındaki kızı Francesca da dahil), sınıflarındaki erkek çocukların kendilerinin müstehcen görüntülerini oluşturmak için yapay zeka yazılımı kullandıkları ve sahte görüntüleri dağıttıkları konusunda yöneticileri uyardı. Görüntüler. Fotoğraf. Manesse'ler ve diğer aileler, beş ay sonra, bölgenin manipüle edilmiş görüntülere kamuya açık bir şekilde değinmek veya yapay zekanın istismarcı kullanımını engellemek için okul politikalarını güncellemek için çok az şey yaptığını söylüyor.

Yerel bir anaokulunun kurucusu Bayan Mani, toplantı sırasında yönetim kurulu üyelerini uyardı: “Westfield Lisesi yönetimi ve bölge, bu olayı ortadan kaldırmak için bir ustalık sınıfına girişiyor gibi görünüyor.”

Okul bölgesi yaptığı açıklamada, olayın öğrenilmesi üzerine “acil soruşturma” başlattığını, durumu derhal polise bildirip danıştığını ve ikinci sınıfa grup danışmanlığı sağladığını söyledi.

Westfield Devlet Okulları Müfettişi Raymond Gonzalez yaptığı açıklamada, “Tüm okul bölgeleri, öğrencilerin her zaman, her yerde kullanabileceği yapay zeka ve diğer teknolojilerin zorlukları ve etkileriyle karşı karşıyadır” dedi.

Geçtiğimiz yıl, ChatGPT gibi yapay zeka destekli sohbet robotlarının ani popülaritesi karşısında şok yaşayan ABD'deki okullar, öğrencilerin kopya çekmesini önlemek amacıyla metin üreten botları kontrol altına almak için harekete geçti. Yapay zekayla görüntü oluşturmada artık daha da endişe verici bir olgu okulları sarsıyor.

Pek çok eyaletteki erkek çocuklar, okul konserleri gibi etkinliklere katılırken gösterilen giyinik sınıf arkadaşlarının gerçek, tanınabilir fotoğraflarını, yapay zeka tarafından açığa çıkarılan göğüsleri ve cinsel organları olan kızların ikna edici grafik görüntülerine dönüştürmek için yaygın olarak bulunan “soyunma” uygulamalarını kullandı. Okul ve polis raporlarına göre, bazı durumlarda çocuklar sahte fotoğrafları okul yemekhanesinde, okul otobüsünde veya Snapchat ve Instagram gibi platformlardaki grup sohbetleri aracılığıyla paylaştılar.

“Deepfake” veya “derin çıplaklar” olarak bilinen bu tür dijital olarak değiştirilmiş görüntüler, yıkıcı sonuçlara yol açabilir. Çocuk cinsel istismarı uzmanları, genç kadınları taciz etmek, aşağılamak ve zorbalık yapmak için yapay zeka tarafından oluşturulan rıza dışı görüntülerin kullanılmasının onların zihinsel sağlıklarına, itibarlarına ve fiziksel güvenliklerine zarar verebileceğini, aynı zamanda üniversite ve mesleki gelecekleri için risk oluşturabileceğini söylüyor. Geçtiğimiz ay FBI, cinsel içerikli davranışlarda bulunan kimliği belirlenebilir küçüklerin gerçekçi, yapay zeka tarafından oluşturulmuş görüntüleri de dahil olmak üzere, bilgisayar tarafından oluşturulan çocuklara yönelik cinsel istismar materyallerinin dağıtılmasının yasa dışı olduğu konusunda uyardı.

Ancak öğrencilerin okullarda yapay zeka uygulamalarını kullanması o kadar yeni ki, bazı bölgeler bu konuya değinmeye diğerlerine göre daha az hazırlıklı görünüyor. Bu, garantileri öğrenciler için riskli hale getirebilir.

Stanford Üniversitesi İnternet Gözlemevi'nden araştırmacı ve bilgisayar kaynaklı çocuk cinsel istismarına ilişkin yasal sorunlar hakkında yazan Rianna Pfefferkorn, “Bu olgu aniden ortaya çıktı ve pek çok okul bölgesini hazırlıksız ve ne yapacağınızı bilemez durumda bulabilirsiniz” dedi. . İstismar görüntüleri.

Geçen sonbaharda Seattle yakınlarındaki Isaac Lisesi'nde, ebeveynlerin 14 ve 15 yaşındaki kızlarının yapay zeka tarafından oluşturulmuş açık fotoğraflarıyla ilgili şikayetlerini araştıran bir polis dedektifi, bir müdür yardımcısına okulun olayı neden polise bildirmediğini sordu. Isaac Polis Departmanından gelen bir rapora göre. Polis belgesinde okul yetkilisinin daha sonra ona “neyi bildirmesi gerektiğini” sorduğu ve soruşturmacının okulların yasa gereği çocuklara yönelik cinsel istismara ilişkin materyaller de dahil olmak üzere cinsel saldırıları bildirmesi gerektiği konusunda kendisini bilgilendirmesine yol açtığı belirtiliyor. Polis raporunda, okulun daha sonra olayı Çocuk Koruma Hizmetleri'ne bildirdiği belirtildi. (New York Times polis raporunu kamuya açık kayıt talebi yoluyla elde etti.)

Issaquah Okul Bölgesi yaptığı açıklamada, deepfake soruşturmasının bir parçası olarak öğrenciler, aileler ve polisle görüştüğünü söyledi. Açıklamada, bölgenin ayrıca “duygularımızı paylaştığı” ve etkilenen öğrencilere destek sağladığı belirtildi.

Bölgenin “AI tarafından oluşturulan sahte fotoğrafları” çok dikkatli bir şekilde Çocuk Koruma Hizmetlerine bildirdiği ifadede, “hukuk ekibimize göre sahte fotoğrafları polise bildirme zorunluluğumuzun bulunmadığı” ifade edildi. “

Beverly Hills, California'daki Beverly Vista Orta Okulu'nun yöneticileri, beş erkek çocuğun kadın sınıf arkadaşlarının yapay zeka tarafından oluşturulan açık fotoğraflarını oluşturup paylaştığını öğrendikten sonra Şubat ayında polisi aradı. İki hafta sonra, bölge belgelerine göre okul yönetim kurulu beş öğrencinin okuldan atılmasını onayladı. (Bölge, Kaliforniya eğitim kanununun, ihraç edilen öğrencilerin fotoğrafları çeken öğrenciler olup olmadığının teyit edilmesini yasakladığını söyledi.)

Beverly Hills Birleşik Okul Bölgesi müdürü Michael Briggi, kendisi ve diğer okul liderlerinin, okulların öğrencilerin akranlarının cinsel içerikli resimlerini oluşturmasına ve yayınlamasına izin vermemesi gerektiği konusunda ulusal bir emsal oluşturmak istediklerini söyledi.

Dr Bregi, “Bu, okullar söz konusu olduğunda aşırı bir zorbalıktır” dedi ve müstehcen görüntülerin kızlar ve aileleri için “rahatsız edici ve taciz edici” olduğunu kaydetti. “Burada asla hoşgörü göstermeyeceğimiz bir şey.”

Beverly Hills ve Westfield'in küçük, varlıklı topluluklarındaki okullar, deepfake olaylarını kamuya açıklayan ilk okullar arasındaydı. Bölgenin ebeveynlerle yaptığı iletişimlerde, okul yönetim kurulu toplantılarında, yasama oturumlarında ve mahkeme dosyalarında anlatılan vakaların ayrıntıları, okul yanıtlarının değişkenliğini vurgulamaktadır.

Genç kadın ve ailesi tarafından oğlana ve ailesine karşı açılan davaya göre, Westfield olayı geçen yaz bir lise öğrencisinin Instagram'da özel hesabı olan 15 yaşındaki bir sınıf arkadaşıyla arkadaş olmak istemesiyle başladı. (Manis, davaya dahil olmadıklarını söyledi.)

Mahkeme belgelerine göre, öğrencinin talebi kabul ettikten sonra kendisinin ve birkaç sınıf arkadaşının fotoğraflarını sosyal medya hesaplarından kopyaladı. Mahkeme belgelerine göre, daha sonra yapay zeka uygulamasını kullanarak kızların müstehcen ve “tamamen tanımlanabilir” görüntülerini üretip bunları bir Snapchat grubu aracılığıyla okul arkadaşlarıyla paylaştı.

Westfield Lisesi Ekim ayı sonlarında araştırmaya başladı. Francesca Mani, yetkililerin bazı erkek çocukları sakin bir sorgulama için kenara çekerken, kendisini ve diğer iki 10. sınıf kızını aradıklarını ve bu kızların okul ofisine derin sahtekarlıkla isimlerini okul interkomundan anons ederek aradıklarını söyledi.

O hafta, Westfield Lisesi Müdürü Mary Asfendis ebeveynlere “yanlış bilginin geniş çapta yayılmasına yol açan bir durum” konusunda onları uyaran bir e-posta gönderdi. E-posta, deepfake'i “çok ciddi bir olay” olarak tanımlayarak devam etti. Ayrıca öğrencilerin görüntülerin paylaşılması olasılığına ilişkin endişelerine rağmen okulun “oluşturulan ve dağıtılmayan tüm görüntülerin silindiğine” inandığını söyledi.

Dorota Mani, Westfield yetkililerinin kendisine, fotoğrafları uydurmakla suçlanan öğrenciyi bölgenin bir veya iki gün uzaklaştırdığını söylediğini söyledi.

Kısa bir süre sonra o ve kızı olay hakkında konuşmaya başladılar ve okul bölgelerini, eyalet yasa koyucularını ve Kongre'yi özellikle açık deepfake'leri yasaklayan yasa ve politikaları yürürlüğe koymaya çağırdılar.

Şu anda 15 yaşında olan Francesca Mani yakın tarihli bir röportajda “Okul politikamızı güncelleyerek başlamalıyız” dedi. “Çünkü okulun yapay zeka politikaları olsaydı benim gibi öğrenciler korunurdu.”

Dorota Mani'nin de aralarında bulunduğu ebeveynler de geçen sonbaharda müstehcen fotoğraflar nedeniyle Westfield Lisesi'ne taciz şikayetinde bulundu. Ancak Mart ayı toplantısında Bayan Mani, okul yönetim kurulu üyelerine, lisenin ebeveynlere olayla ilgili henüz resmi bir rapor sunmadığını söyledi.

Westfield Devlet Okulları, öğrenci gizliliği nedeniyle herhangi bir disiplin cezası hakkında yorum yapamayacağını söyledi. Müfettiş Dr. Gonzalez yaptığı açıklamada, bölgenin “öğrencilerimizi eğiterek ve bu yeni teknolojilerin sorumlu bir şekilde kullanılmasını sağlamak için açık yönergeler oluşturarak” çabalarını artırdığını söyledi.

Beverly Hills Okulları daha sert bir kamusal duruş sergiledi.

Yetkililer Şubat ayında Beverly Vista Ortaokulu'ndaki sekizinci sınıf öğrencilerinin 12 ve 13 yaşındaki kız sınıf arkadaşlarının müstehcen resimlerini oluşturduklarını öğrendiğinde, herkese hemen bir mesaj (konu satırı: “Yapay Zekanın Korkunç Kötüye Kullanımı”) gönderdiler. Bölge velileri, personel ve orta ve lise öğrencileri. Mektupta, topluluk üyelerine, öğrencilerin “rahatsız edici ve uygunsuz” yapay zeka kullanımının “derhal” durdurulmasını sağlamak için okulla bilgi paylaşmaları çağrısında bulunuldu.

Ayrıca bölgenin katı yaptırımlar uygulamaya hazır olduğu konusunda da uyardı. Mektupta, okuldan atılma önerisi de dahil olmak üzere, “Yapay zeka tarafından oluşturulan bu tür görselleri oluşturduğu, yayınladığı veya bulundurduğu tespit edilen herhangi bir öğrenci disiplin cezasıyla karşı karşıya kalacak” denildi.

Müfettiş Dr. Prije, yapay zekanın kötüye kullanılmasının öğrencilerin okullarda kendilerini güvende hissetmemesine neden olması nedeniyle okulların ve yasa koyucuların hızlı hareket etmesi gerektiğini söyledi.

“Okullarda fiziksel güvenlik hakkında çok şey duyuyoruz” dedi. “Fakat öğrencilerin kişisel ve duygusal güvenliğinin ihlal edildiğini duymadığınız bir şey.”