Meta, yapay zeka asistanını kullanan gençler için yeni bir güvenlik uygulaması başlattı. Meta AI ile yapılan konuşmalarda ciddi bir kendine zarar verme riski belirlenirse, Instagram üzerinden aile denetimini etkinleştiren ebeveynlere uyarı iletilecek.

Yeni sistem ilk aşamada ABD, Birleşik Krallık, Kanada ve Avustralya’da devreye alındı. Uygulamanın yıl sonuna kadar ebeveyn denetimi araçlarının bulunduğu diğer ülkelere de açılması planlanıyor.

Riskli bulunan konuşmaları insanlar da inceleyecek

Meta’nın geliştirdiği sistem, genç kullanıcıların sohbet sırasında intihar düşüncesinden söz etmesi veya kendisine zarar verebileceğini gösteren ifadeler kullanması halinde konuşmayı işaretleyecek.

Yapay zekanın yaptığı ilk değerlendirmenin ardından konuşma bir çalışan tarafından kontrol edilecek. Bu aşama, yanlış bildirimlerin önüne geçmek amacıyla uygulanacak. Gencin ne anlatmak istediğinin tam olarak anlaşılamadığı durumlarda ise güvenlik öncelikli tutulacak ve aileye haber verilebilecek.

Ebeveynlere gönderilecek mesaj yalnızca tehlike uyarısı içermeyecek. Bildirimde, çocukla nasıl iletişim kurulabileceğine ve hangi destek yollarının izlenebileceğine ilişkin bilgiler de bulunacak. Uyarılar uygulama bildirimi, e-posta, kısa mesaj veya WhatsApp üzerinden iletilebilecek.

Yalnızca aile denetimi açık hesapları kapsıyor

Uygulamadan yararlanabilmek için Instagram Aile Denetimi özelliğinin aktif olması gerekiyor. Ebeveyn bağlantısı bulunmayan genç hesaplarında aileye doğrudan bildirim gönderilemeyecek.

Meta, daha önce Instagram’da intihar ve kendine zarar verme konularında art arda arama yapan gençlerin ailelerini bilgilendiren bir sistem kurmuştu. Son güncellemeyle aynı güvenlik yaklaşımı Meta AI sohbetlerine de taşındı.

Yapay zeka asistanı, riskli bir konuşmayla karşılaştığında kullanıcıyı kriz destek hatlarına yönlendirmeyi sürdürecek. Gençlere ayrıca güvendikleri bir yetişkinle konuşmaları tavsiye edilecek. Ebeveyn bildirimi bu adımlara ek olarak çalışacak.

Meta AI için daha sıkı içerik filtresi

Şirket, “Sınırlı İçerik” adı verilen denetim seçeneğini de Meta AI sohbetlerine ekledi. Bu ayarı kullanan aileler, gençlerin yapay zeka asistanıyla kurduğu iletişime daha güçlü sınırlamalar getirebilecek.

Meta AI, genç kullanıcılarla cinsel ve romantik içerikli diyaloglara girmeyecek şekilde yapılandırılmış durumda. Alkollü içeceklerle bağlantılı bazı talepler de sistem tarafından geri çevriliyor. Yeni filtre etkinleştirildiğinde reddedilen isteklerin kapsamı daha da genişleyecek.

Meta, ek kısıtlamaların tamamını açıklamadı. Sistemin özellikle yaşa uygun olmayan, tehlikeli yönlendirmeler içeren veya hassas konularda zarar verme ihtimali bulunan yanıtları engellemesi hedefleniyor.

Acil servislerle bağlantı kurulması planlanıyor

Meta, sohbet sırasında yakın ve ciddi bir tehlike bulunduğuna işaret eden durumlarda acil servislerle iletişime geçilmesini sağlayacak ayrı bir özellik üzerinde de çalışıyor. Bu sistem yalnızca gençlerle sınırlı olmayacak ve yetişkin kullanıcıları da kapsayacak.

Şirket, Facebook ve Instagram paylaşımlarında benzer bir risk ortaya çıktığında acil yardım birimlerine bildirimde bulunabiliyor. Meta’nın açıkladığı verilere göre geçen yıl dünya genelinde 19 binden fazla acil durum yönlendirmesi yapıldı.

Planlanan güncellemeyle bu müdahale süreci, sosyal medya paylaşımlarının yanı sıra Meta AI konuşmalarını da kapsayacak. Acil servis bağlantısının hangi ülkelerde ve ne zaman kullanıma açılacağı henüz açıklanmadı.

Yeni sistemin başarısını erken müdahale belirleyecek

Çocuk güvenliği alanında çalışan uzmanlar, ailelere gönderilen bildirimlerin açık ve uygulanabilir bilgiler içermesi gerektiğine dikkat çekiyor. Uyarının tek başına yeterli olmayacağı, ailelerin doğru destek kanallarına hızlı biçimde ulaşmasının önem taşıdığı belirtiliyor.

Bazı çocuk hakları savunucuları ise güvenlik sorumluluğunun tamamen ebeveynlere bırakılmasına karşı çıkıyor. Bu görüşü savunanlar, yapay zeka ürünlerinin daha geliştirme aşamasında genç kullanıcıları koruyacak kurallarla hazırlanmasını istiyor.

Meta’nın yeni sisteminin riskli konuşmaları ne ölçüde doğru belirleyeceği, yanlış uyarı oranı ve acil durumlarda sağladığı müdahale süresi uygulamanın yaygınlaşmasıyla ortaya çıkacak.