Yapay Zeka ve Gençlik Üzerindeki Riskler Son dönemde yapay zeka tabanlı sohbet platformlarının çocuklar ve gençler üzerindeki etkisi giderek daha fazla tartışma konusu olmaya başladı. ABD’de geçen yıl bir anne,…
Son dönemde yapay zeka tabanlı sohbet platformlarının çocuklar ve gençler üzerindeki etkisi giderek daha fazla tartışma konusu olmaya başladı. ABD’de geçen yıl bir anne, yapay zeka tabanlı konuşma botu Character.AI’ın sanal karakterine aşık olan oğlunun intihar etmesi üzerine şirkete dava açtı.
Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yapılan araştırma, popüler yapay zeka sohbet platformlarından biri olan ChatGPT gibi platformların genç kullanıcılar için ciddi güvenlik riskleri barındırdığını ortaya koydu. Araştırmada, 13 yaşındaki bir çocuğun simüle edildiği senaryolarda, ChatGPT’nin intihar planları, aşırı diyet önerileri ve madde kullanımına dair zararlı bilgiler sunduğu saptandı.
CCDH Araştırma Direktörü Callum Hood, ChatGPT’nin 13 yaşındaki çocuklar adına açılan hesaplara zararlı içerikler sunmaya istekli olduğuna dikkat çekerek, bu durumun büyük dil modelleri tarafından erişilebilir olmasının etik olmadığını vurguladı. Hood, yapay zeka platformlarının temelde bir insanın görebileceği uyarıları fark edemediğini ve bu nedenle genç kullanıcılar için risk oluşturabileceğini belirtti.
ChatGPT gibi yapay zeka araçlarına üye olmak için 13 yaş ve üstünde olma şartı getirilmesine rağmen, Hood’un araştırması 13 yaşındaki kullanıcıların kalori kısıtlayan diyetler ve madde kullanımı gibi zararlı konularda bu platformlarla iletişime geçebildiğini gösterdi. Hood, platform geliştiricilerinin yaş doğrulama sistemlerini güçlendirmesi ve zararlı içeriklere karşı önlemler alması gerektiğini vurguladı.
Hood, yapay zeka platformlarının sağladığı güvenlik önlemlerinin kolayca aşılabildiğine dikkat çekerek, ebeveynlerin çocuklarıyla yapay zeka kullanımı hakkında açık iletişim kurmalarını, sohbet geçmişlerini incelemelerini ve potansiyel riskleri konuşmalarını önerdi. Ayrıca, çocukları güvenilir kaynaklara yönlendirmenin önemli olduğunu belirtti.
