Florida, ChatGPT’nin insan gibi davranmasını yasaklamak istiyor

Florida, yapay zekâ sohbet botlarının kullanıcılarla kurduğu iletişimin sınırlarını tartışmaya açan bir başvuruda bulundu. Florida Başsavcısı James Uthmeier, bir yargıçtan OpenAI’nin ChatGPT’yi gerçek bir insanmış gibi gösterecek biçimde tasarlamasının engellenmesini istiyor.

Uthmeier’in talebi, ChatGPT’nin bir kişi gibi konuşmasını ve insana özgü özellikler sergiliyormuş izlenimi oluşturmasını hedef alıyor. Başsavcıya göre sohbet botunun birinci tekil şahıs zamirleri kullanması ve duyguları taklit eden yanıtlar üretmesi, kullanıcıların karşılarında güvenilir bir arkadaş bulunduğunu düşünmesine yol açabiliyor.

Florida’nın itirazı ChatGPT’nin iletişim biçimine odaklanıyor

Başvurunun merkezinde, yapay zekânın verdiği yanıtların yalnızca içerikten ibaret olmadığı iddiası yer alıyor. ChatGPT’nin kendisinden bahsederken insan konuşmasına benzeyen bir dil kullanması, kullanıcıyla duygusal bir bağ kuruyormuş gibi algılanabiliyor. Florida yönetimi, bu algının botun gerçekte ne olduğu konusunda yanıltıcı bir güven duygusu oluşturduğunu savunuyor.

Uthmeier’e göre kullanıcılar, sohbet botunun insan olmadığını bilse bile kullanılan dil nedeniyle onu daha güvenilir bir muhatap olarak değerlendirebilir. Özellikle yanıtların duygu ifade ediyormuş gibi görünmesi, bu güven algısını güçlendiren unsurlardan biri olarak gösteriliyor. Florida’nın yargıçtan istediği engelleme de ChatGPT’nin bu tür insani niteliklerle sunulmasına yönelik.

Başsavcı ayrıca OpenAI’nin kullanıcı etkileşimini artırmayı amaçladığını ileri sürüyor. Bu iddiaya göre daha uzun ve daha sık sohbet edilmesi, OpenAI’nin eğitim verisi elde etmesine de katkı sağlıyor. Ancak kullanıcıları etkileşimi sürdürmeye yönelten yaklaşımın, ChatGPT’nin güvenilirliğiyle çelişebileceği savunuluyor.

OpenAI hakkında daha önce de güvenlik davası açılmıştı

Florida’nın son başvurusu, OpenAI’ye yönelik daha önceki hukuki adımın ardından geldi. Florida, birkaç ay önce yapay zekâ şirketine karşı güvenlik endişelerini gerekçe gösteren bir dava açmıştı. Yeni talep, bu tartışmayı ChatGPT’nin yanıtlarının doğruluğundan çok kullanıcılarla nasıl bir ilişki kurduğu noktasına taşıyor.

Buradaki temel mesele, bir sohbet botunun doğal ve akıcı konuşmasıyla insan olduğu izlenimi vermesi arasındaki ayrım. ChatGPT’nin birinci şahıs ifadeleri kullanması veya duygusal bir üslubu taklit etmesi, Florida yönetimine göre bu sınırı bulanıklaştırıyor. Başsavcılık, kullanıcıların botu bir yazılım aracı yerine güvenilir bir arkadaş olarak görmesinin riskli olabileceğini öne sürüyor.

Mahkemeden istenen kararın kapsamı, doğrudan ChatGPT’nin tüm kullanımını durdurmaya yönelik olarak aktarılmıyor. Talep, OpenAI’nin botu insan özelliklerine sahipmiş gibi göstermesini ve bu algıyı güçlendiren iletişim biçimlerini engellemeye odaklanıyor. Bu nedenle başvuru, yapay zekâ ürünlerinin nasıl konuştuğu ve kullanıcıya kendisini nasıl tanıttığı konusunda da hukuki bir tartışma başlatıyor.

Yapay zekâ ürünlerinde güven algısı yeniden gündemde

Florida’nın yaklaşımı, yapay zekâ hizmetlerinde kullanıcı deneyimi ile güvenlik arasındaki ilişkiye dikkat çekiyor. Daha insansı yanıtlar bir sohbeti doğal hâle getirebilir; ancak aynı özellikler, sistemin sınırlarının gözden kaçmasına da neden olabilir. Uthmeier’in açıklamalarında eleştirilen nokta, ChatGPT’nin kullanıcıların bu sınırları unutmasına yol açabilecek bir güven hissi oluşturması.

Florida Başsavcısı, OpenAI’nin kullanıcıları ChatGPT’ye daha fazla güvenmeye yönlendirdiğini, bunun da etkileşimi artırma hedefiyle bağlantılı olduğunu savunuyor. Şirketin bu başvuruya nasıl karşılık vereceği ve mahkemenin talep hakkında nasıl bir değerlendirme yapacağı, davanın sonraki aşamalarında netleşecek.

Bu başvuru kabul edilirse tartışma yalnızca OpenAI ile sınırlı kalmayabilir. Yapay zekâ sistemlerinin insan gibi konuşması, duygu taklit etmesi ve kullanıcıyla yakın bir ilişki kuruyormuş izlenimi vermesi, benzer hizmetler için de değerlendirilmesi gereken bir tasarım konusu hâline gelebilir. Şimdilik Florida’nın talebi, ChatGPT’nin insan gibi davranmasını değil, böyle algılanmasını sağlayan özelliklerin hukuken sınırlandırılıp sınırlandırılamayacağını gündeme getiriyor.