Meta, çocukların ve gençlerin dijital ortamdaki güvenliğine yönelik yeni bir uygulamayı küresel ölçekte devreye almaya başladı. Şirket, ebeveyn denetimi etkin olan hesaplarda genç kullanıcıların Facebook veya Instagram’da intihar ya da kendine zarar vermeyle ilişkili ifadeleri kısa süre içinde tekrar tekrar araması halinde ebeveynlere uyarı gönderecek.
Yeni uygulama yalnızca sosyal medya aramalarını kapsamıyor. Meta AI ile Instagram, Facebook veya Messenger üzerinden gerçekleştirilen konuşmalarda bir gencin intihar ya da kendine zarar verme riski taşıdığına ilişkin işaretler tespit edilmesi halinde de ebeveynlere bildirim gönderilecek.
Tek bir arama bildirim için yeterli olmayacak
Meta’nın açıklamasına göre sistem, çocuğun tek bir aramasını ebeveyne bildirmeyecek. Uyarının devreye girmesi için intihar veya kendine zarar vermeyle ilişkili ifadelerin kısa bir zaman aralığında birkaç kez aranması gerekiyor.
Şirket, bildirim eşiğinin tam olarak kaç aramadan oluştuğunu açıklamadı. Meta daha önce yaptığı açıklamalarda yanlış veya gereksiz bildirimlerin önüne geçebilmek için belirli bir tekrar eşiği kullandığını belirtmişti.
Facebook ve Instagram, açık biçimde intihar veya kendine zarar vermeyle bağlantılı bazı aramaların sonuçlarını zaten göstermiyor. Bunun yerine kullanıcılar yardım kaynaklarına ve yerel destek kuruluşlarına yönlendiriliyor. Ruh sağlığıyla daha genel biçimde ilişkili bazı aramalarda da destek ve yardım kaynakları gösteriliyor.
Meta AI konuşmaları da kapsama alındı
Yeni sistemin dikkat çeken bölümlerinden biri, yapay zekâ ile yapılan konuşmaların da güvenlik mekanizmasına dahil edilmesi.
Bir gencin Meta AI ile yaptığı konuşmada kendine zarar verme veya intihar riski taşıdığına ilişkin ifadeler bulunması halinde sistem ebeveynleri bilgilendirebilecek.
Meta, bu tür konuşmaları belirlemek için uzman görüşlerinden yararlandığını ve 75’ten fazla klinisyenin geri bildirimleriyle sistemin geliştirildiğini açıkladı. Şirket ayrıca, Meta AI tarafından riskli olarak işaretlenen konuşmaların ebeveyne bildirim gönderilmeden önce insan incelemesinden geçirileceğini belirtiyor.
Meta’ya göre değerlendirmede çocuğun niyetinin açık olmadığı durumlarda da ihtiyatlı davranılarak ebeveyne bildirim gönderilebilecek.
Ebeveyne konuşmanın içeriği gösterilmeyecek
Uygulama, ebeveynlerin çocukların tüm arama veya yapay zekâ konuşmalarını görmesine olanak tanımıyor.
Bildirimlerde çocuğun tam olarak hangi ifadeyi aradığı veya Meta AI ile yaptığı konuşmanın içeriği paylaşılmayacak. Ebeveynlere bunun yerine çocuklarının intihar veya kendine zarar vermeyle bağlantılı bir davranış örüntüsü gösterdiği bilgisi verilecek ve çocukla nasıl iletişim kurulabileceğine ilişkin destek kaynakları sunulacak.
Bu yönüyle sistem, doğrudan bir “konuşma kaydı paylaşımı” yerine risk durumunda ebeveyni bilgilendiren bir uyarı mekanizması olarak tasarlandı.
Yalnızca ebeveyn denetimi açık hesaplarda çalışacak
Uyarı sistemi bütün genç hesaplarında otomatik olarak devreye girmeyecek.
Bildirimlerin gönderilebilmesi için ebeveyn veya bakım veren kişinin Meta’nın aile ve ebeveyn denetimi araçlarını kullanıyor olması gerekiyor. Meta, Instagram’da daha önce uygulamaya aldığı bu sistemi Facebook aramalarına ve Meta AI konuşmalarına da genişletti.
Uyarılar, ebeveynin hesabında kayıtlı iletişim bilgilerine göre uygulama bildirimi, e-posta, kısa mesaj veya WhatsApp üzerinden iletilebilecek.
Uygulama küresel olarak genişletiliyor
Meta, Instagram’daki arama uyarılarını 2026’nın başında duyurmuştu. Şirket 29 Ekim’de yaptığı güncellemeyle uygulamanın Facebook’taki aramalar ile Facebook, Instagram ve Messenger üzerinden gerçekleştirilen Meta AI konuşmalarına da genişletildiğini açıkladı.
Şirket, yeni sistemle ebeveynlerin olası bir risk durumundan daha erken haberdar edilmesini ve çocukların çevrim dışındaki destek mekanizmalarına yönlendirilmesini amaçladığını belirtiyor.
Uzmanlar açısından ise uygulamanın nasıl çalışacağı kadar, çocuğun mahremiyeti ile güvenliğinin nasıl dengeleneceği de önem taşıyor. Meta’nın sistemi bu nedenle ebeveyne konuşmanın veya aramanın ayrıntılarını vermek yerine yalnızca risk tespitine ilişkin bildirim gönderecek şekilde tasarlandı.
