UNICEF’in Strateji ve Kanıt Ofisi – Innocenti, çocukların ve ebeveynlerin yapay zekâ kullanımına ilişkin yeni bir araştırma yayımladı. Özgün adı “Snapshot of AI Usage and Concerns Among Children and Parents” olan ve Türkçeye “Çocuklar ve Ebeveynler Arasında Yapay Zekâ Kullanımı ve Kaygılara İlişkin Anlık Görünüm” olarak çevrilebilecek rapor, çocukların yapay zekâ teknolojilerini ebeveynleri ve bakım verenlerinden çok daha hızlı benimsediğini ortaya koydu.
Araştırma, Ermenistan, Brezilya, Kolombiya, Dominik Cumhuriyeti, Ürdün, Meksika, Karadağ, Kuzey Makedonya, Pakistan ve Sırbistan’da yapıldı. Her ülkede yaklaşık 1000 internet kullanan 12-17 yaş grubu çocuk ile yaklaşık 1000 ebeveyn veya bakım verenle görüşüldü. Türkiye, araştırma kapsamındaki ülkeler arasında yer almıyor.
Rapora göre araştırmaya katılan ülkelerde çocukların yapay zekâ kullanımı yüzde 18 ile yüzde 50 arasında değişiyor. Bu oranlar, 10 ülkede en az 20 milyon çocuğun yapay zekâyı en az bir kez kullandığını gösteriyor. UNICEF Innocenti, buna karşın kanıtların hâlâ sınırlı olduğunu ve çocukların yapay zekâyı benimseme hızının politika ve koruma mekanizmalarının önünde ilerlediğini belirtti.
Çocukların yüzde 38’i yapay zekâ kullandı
Araştırmanın 10 ülke ortalamasına göre çocukların yüzde 38’i yapay zekâ kullandığını söyledi. Ebeveynler ve bakım verenler arasında bu oran yüzde 12’de kaldı. UNICEF Innocenti, bu verinin çocuklar ile yetişkinler arasında belirgin bir “aile içi yapay zekâ kullanım farkı” ortaya koyduğunu belirtti.
Rapora göre ebeveynlerin ve bakım verenlerin en az dörtte üçü yapay zekâyı hiç kullanmadı. UNICEF Innocenti, bu durumun ebeveynlerin çocukların kullandığı yapay zekâ araçlarını anlamasını, riskleri fark etmesini ve çocuklara destek olmasını zorlaştırabileceğine dikkat çekti.
Yaş grupları arasında da fark bulunuyor. Araştırmaya göre 12-14 yaş grubundaki çocukların yüzde 33’ü yapay zekâ kullanırken, 15-17 yaş grubunda bu oran yüzde 44’e yükseldi. Oğlan ve kız çocuklar arasında ise yapay zekâ kullanımı açısından belirgin bir fark görülmedi. Oğlan çocuklarda kullanım oranı yüzde 39, kız çocuklarda yüzde 38 olarak ölçüldü.
En yaygın kullanım ödev desteği
Araştırmaya göre yapay zekâ kullanan çocukların en sık başvurduğu alan ödev ve öğrenme desteği oldu. Yapay zekâ kullanan çocukların yüzde 60’ı bu araçları ödevlerine yardımcı olması için kullandığını söyledi. UNICEF Innocenti, bu verinin araştırma kapsamındaki 10 ülkede yaklaşık 13 milyon çocuğun yapay zekâyı ödev desteği amacıyla kullandığını gösterdiğini belirtti.
Çocukların yüzde 47’si yapay zekâyı bilgi aramak, yüzde 30’u görsel veya video oluşturmak ya da düzenlemek, yüzde 24’ü çeviri yapmak için kullandı. Çocukların yüzde 11’i ise kendisini kaygılandıran konularda tavsiye almak için yapay zekâya başvurdu.
Bu bulgu, yapay zekânın çocuklar açısından yalnızca akademik bir araç olmadığını gösteriyor. UNICEF Innocenti, çocukların yapay zekâyı duygusal destek, tavsiye veya kişisel sorunlarını anlamlandırma amacıyla kullanmasının daha fazla araştırılması gereken bir alan olduğuna dikkat çekti.
Çocuklar dolandırıcılık, yanlış bilgi ve deepfake’ten kaygılı
Araştırma, çocukların yapay zekâya ilişkin kaygılarını da ortaya koydu. Buna göre çocukların yüzde 34’ü yapay zekânın dolandırıcılık veya kandırma amacıyla kullanılmasından endişe ettiğini belirtti. Yüzde 32’si yapay zekâ ile yanlış bilgi yayılmasından, yüzde 26’sı ise yapay zekâ kullanılarak sahte cinsel görüntü veya video oluşturulmasından kaygı duyduğunu söyledi.
Çocukların yüzde 15’i yapay zekânın kötü tavsiye vermesinden, yüzde 14’ü ise gelecekteki işlerini ellerinden almasından endişe ettiğini belirtti. Buna karşın çocukların yüzde 24’ü bu risklerin hiçbirinden kaygı duymadığını, yüzde 23’ü ise yanıt vermediğini veya bilmediğini söyledi. UNICEF Innocenti, bu tablonun çocuklar için yapay zekâ okuryazarlığına duyulan ihtiyacı güçlendirdiğini vurguladı.
Ebeveynler ve bakım verenler arasında da benzer kaygılar öne çıktı. Rapora göre yetişkinlerin yüzde 40’ı yapay zekânın dolandırıcılık veya kandırma için kullanılmasından, yüzde 36’sı yanlış bilgi yayılmasından, yüzde 31’i ise sahte cinsel görüntü veya video oluşturulmasından endişe ediyor.
Yapay zekâ destekli cinsel sömürü riski
UNICEF Innocenti raporunda, yapay zekâ destekli cinsel sömürü ve istismar riskine özel bir bölüm ayrıldı. Raporda, çocukların görüntülerinin yapay zekâ araçlarıyla cinsel içerikli sahte görsel veya videolara dönüştürülmesinin çocukların korunma hakkı açısından yeni ve ciddi bir tehdit oluşturduğu belirtildi.
UNICEF’in daha önce yayımladığı tahminlere göre, 11 ülkede son bir yıl içinde en az 1,2 milyon çocuğun görüntüsü yapay zekâ araçlarıyla cinsel içerikli sahte görsellere veya videolara dönüştürüldü. Raporda, bazı ülkelerde bu oranın her 25 çocuktan birine, yani tipik bir sınıfta bir çocuğa denk gelebildiği ifade edildi.
UNICEF Innocenti, bu tür içeriklerin çocukların cinsel sömürü ve istismardan korunma hakkına yönelik ciddi bir risk olduğunu belirterek, çocukların yapay zekâ kaynaklı zararlardan acilen korunması gerektiğini kaydetti.
Dijital beceri tek başına yeterli değil
Rapora göre dijital becerileri daha yüksek olan çocukların yapay zekâ kullanma olasılığı daha fazla. Ancak bu çocukların yapay zekânın riskleri konusunda daha kaygılı olduklarına dair genel bir bulguya ulaşılamadı. UNICEF Innocenti, bu nedenle yalnızca dijital beceri kazandırmanın yeterli olmadığını, çocukların yapay zekânın sınırları, yanlış bilgi, önyargı, mahremiyet, kötü tavsiye ve duygusal bağımlılık gibi riskler konusunda da desteklenmesi gerektiğini belirtti.
Raporda aşırı kısıtlayıcı ebeveyn yaklaşımlarına ilişkin de uyarı yer aldı. Buna göre çocukların çevrimiçi faaliyetlerini aşırı sınırlamak, onları koruma amacı taşısa da yeni araçlara erişimlerini ve dijital becerilerini geliştirme fırsatlarını azaltabiliyor.
UNICEF’ten çocuk merkezli yapay zekâ çağrısı
UNICEF Innocenti, raporda hükümetlere, teknoloji şirketlerine, eğitim kurumlarına ve sivil toplum kuruluşlarına çocuk merkezli yapay zekâ politikaları geliştirme çağrısı yaptı.
Raporda öne çıkan öneriler arasında çocuklar ve aileler arasındaki yapay zekâ kullanım farkının kapatılması, çocukların gelişimi ve iyi olma hâli üzerindeki etkilerin araştırılması, çocuklara, ebeveynlere ve öğretmenlere yapay zekâ okuryazarlığı desteği verilmesi, yapay zekâ sistemlerinin çocuklar için daha güvenli tasarlanması ve yapay zekâ destekli cinsel sömürüye karşı hukuki ve kurumsal önlemlerin güçlendirilmesi yer aldı.
UNICEF Innocenti, yapay zekâ sistemlerinde çocuklar için güvenlik ve mahremiyet ayarlarının en yüksek düzeyde varsayılan olarak uygulanması gerektiğini belirtti. Raporda ayrıca yapay zekâ ile üretilen çocuk cinsel istismarı materyallerinin oluşturulması ve dağıtılmasının suç sayılması, platformların güvenlik önlemleri konusunda sorumlu tutulması ve yapay zekâ modellerinin kullanıma sunulmadan önce güvenlik testlerinden geçirilmesi gerektiği vurgulandı.
Türkiye araştırma kapsamında yer almasa da rapor, çocukların yapay zekâ kullanımı konusunda evrensel bir ihtiyaca işaret ediyor. Çocukların öğrenme, bilgiye erişim ve yaratıcılık alanlarında yapay zekâdan yararlanabilmesi için güvenli, şeffaf, denetlenebilir ve çocuk haklarına dayalı politikaların geliştirilmesi gerekiyor.
