NEW YORK — Dijital çağın en hızlı gelişen teknolojisi olan yapay zeka, çocukların korunması amacıyla ABD’nin New York eyaletinde çok sert ve emsal teşkil edecek yeni yasal sınırlamalarla karşı karşıya kaldı. DW Türkçe’de yer alan haber detaylarına göre; hayata geçirilen yeni yasal düzenleme ile birlikte, ChatGPT’nin arkasındaki OpenAI dahil olmak üzere tüm yapay zeka geliştiricisi şirketlere kullanıcıların yaşını doğrulama zorunluluğu getirildi. Alınan bu radikal karar neticesinde, 18 yaşından küçük reşit olmayan bireylerin yapay zeka sohbet botlarıyla kişisel ilişkiler kurması, duygusal bağlar geliştirmesi ve botların insan gibi davranması tamamen yasaklandı.
- New York eyaletinde yürürlüğe giren yeni yasa ile 18 yaşından küçüklerin ‘arkadaş gibi davranan’ yapay zeka botlarını kullanması engellendi.
- OpenAI ve benzeri yapay zeka şirketlerine kullanıcıların yaşını doğrulama zorunluluğu getirildi; reşit olmayanlar için arayüz özellikleri sınırlandırıldı.
- Teknoloji çevrelerinden Tech:NYC yasayı ‘belirsiz ifadeler’ içerdiği gerekçesiyle eleştirirken, Common Sense Media düzenlemeyi memnuniyetle karşıladı.
- Common Sense Media CEO’su Jim Steyer, bazı yapay zeka botlarının çocuklar için ölümcül olabilecek özellikler barındırdığını vurguladı.
Yapay Zeka Sohbet Botlarına ‘İnsan Gibi Davranma’ Yasağı
Teknoloji dünyasının trilyonlarca dolarlık yatırımlarla geliştirdiği ve hayatın her alanına entere ettiği yapay zeka sistemleri, reşit olmayan kullanıcılar söz konusu olduğunda yasal bir duvarla karşılaştı. New York eyaletinde yürürlüğe giren yeni yasal düzenleme, özellikle çocukların ve gençlerin dijital dünyadaki ruh sağlığını korumayı hedefliyor. Yapılan yasal değişikliklerle birlikte, ChatGPT gibi devasa dil modellerinin geliştiricisi OpenAI ve benzeri diğer yapay zeka şirketleri, artık sistemlerine erişen kullanıcıların yaşını kesin olarak doğrulamakla yükümlü kılındı. Eğer platformu kullanan kişinin 18 yaşının altında olduğu tespit edilirse, yapay zeka arayüzünün işlevselliği ciddi ölçüde kısıtlanacak.
Yeni kurallara göre, sohbet botları reşit olmayan bir kullanıcıda ‘insan olduğu, yaşadığı ya da insani duygular hissettiği’ izlenimini uyandırabilecek hiçbir içerik, cümle veya simülasyon üretemeyecek. Ayrıca sistemler, kullanıcının kendileriyle ‘kişisel bir ilişkisi olduğunu’ düşünmesine yol açacak manipülatif yanıtlar vermekten kaçınmak zorunda. Bununla birlikte, yapay zeka botlarının ürettikleri herhangi bir yanıtı veya çıktıyı ‘kişisel görüş’ olarak sunması da kesin bir dille yasaklandı. Bu hamle, çocukların algoritmalar tarafından duygusal olarak manipüle edilmesinin önüne geçilmesi adına atılan en büyük küresel adımlardan biri olarak kayıtlara geçti.
Teknoloji Sektörü ile Çocuk Hakları Savunucuları Karşı Karşıya
New York’ta hayata geçirilen bu kapsamlı yasak, teknoloji çevreleri ile çocuk güvenliği savunucusu sivil toplum kuruluşları arasında sert tartışmaları da beraberinde getirdi. New York’taki teknoloji sektörünün ekonomik ve yapısal çıkarlarını savunan Tech:NYC oluşumu, yasayı fazlasıyla ‘belirsiz ifadeler’ içerdiği gerekçesiyle eleştiri oklarının hedefine koydu. Konuya ilişkin yapılan resmi açıklamada, çocukların internet ortamında güvende olmasını sağlamanın son derece önemli olduğu kabul edilmekle birlikte, bu durumun onları öğrenmelerine, gelişimlerine ve gelecekteki mesleklere hazırlanmalarına yardımcı olan teknolojik araçlardan tamamen yoksun bırakmak anlamına gelmemesi gerektiği savunuldu.
Buna karşılık, ailelere medya içeriklerinin çocuklar ve gençler için uygunluğu konusunda rehberlik eden kâr amacı gütmeyen kömünite kuruluşu Common Sense Media ise yasanın kabul edilmesini büyük bir memnuniyetle karşıladı. Yapılan düzenlemeyi ‘ülkedeki çocuklara yönelik en güçlü yapay zeka güvenlik yasası’ olarak nitelendiren Common Sense Media CEO’su Jim Steyer, konunun hayati önemine dikkat çekti. Steyer, yapay zeka şirketlerinin çocuklar ve gençler için tehlikeli, hatta ölümcül olabilecek özelliklere sahip sohbet botları sunduğunu belirterek, ‘Bundan böyle bu zararlı ve istismara açık özellikler New York eyaletinde kesin olarak yasaklanmış olacak’ açıklamasında bulundu.
Gelişmeler ve Beklentiler
New York eyaletinde yürürlüğe giren bu emsal niteliğindeki yapay zeka yasasının, diğer eyaletler ve federal düzeyde de benzer düzenlemelere ilham vermesi bekleniyor. Dijital platformların ve yapay zeka geliştiricilerinin yaş doğrulama teknolojilerini nasıl entegre edeceği ve denetim mekanizmalarının nasıl işletileceği, önümüzdeki dönemin en sıcak teknoloji ve hukuk tartışmaları arasında yer almaya devam edecek. Emeğin sesinin daha gür çıkması için okur desteğiyle varlığını sürdüren Evrensel, bu kritik teknolojik ve sosyolojik dönüşüm sürecini yakından takip etmeyi ve okuyucularına aktarmayı sürdürecektir.
Kaynak: Evrensel