Meta’nın yapay zekâ asistanı Muse, Amazon’dan engellendi

Meta’nın yapay zekâ asistanı Muse, Amazon.com üzerinden alışveriş yapma yeteneğini kaybetti. Pazar gecesi alışveriş yapmak isteyen bazı kullanıcılar, asistanın Amazon’a erişmeye çalıştığı sırada engellendiğini belirten bir uyarıyla karşılaştı. Böylece Muse üzerinden ürün arama ve satın alma süreci, en azından Amazon tarafında, doğrudan ilerleyememeye başladı.

Uyarıda, yetkisiz bir yapay zekâ ajanının erişimini sürdürmesinin Amazon müşterilerinin kabul ettiği kullanım koşullarını ihlal ettiği ifade ediliyor. Kullanıcılar bu nedenle Muse aracılığıyla Amazon’daki ürünlere ulaşmak veya sipariş oluşturmak istediklerinde farklı bir platforma yönelmek zorunda kalıyor. Yaşanan durum, yapay zekâ asistanlarının internet sitelerinde kullanıcı adına hareket ederken karşılaşabileceği erişim sınırlarını görünür hâle getirdi.

Amazon, Muse’u neden engellemiş olabilir?

İlk bakışta karar, iki büyük teknoloji şirketi arasındaki rekabetin bir yansıması gibi görünebilir. Amazon kendi temel yapay zekâ modellerini geliştiriyor ve yapay zekâ modellerinin çalıştırılması için kullanılan bulut altyapısı alanında da güçlü bir konuma sahip. Bu nedenle şirketin, kendi hizmetleriyle doğrudan bağlantısı bulunmayan bir yapay zekâ aracının Amazon üzerindeki işlemleri yönetmesine izin vermemesi şaşırtıcı değil.

Ancak konu yalnızca şirketler arasındaki rekabetten ibaret olmayabilir. Yapay zekâ ajanları kullanıcı adına ürün seçebiliyor, sipariş oluşturabiliyor ve alışveriş sürecinin bazı bölümlerini otomatikleştirebiliyor. Bu işlemlerden biri hatalı gerçekleştiğinde ortaya çıkabilecek sorunların çözümü ise çoğu zaman doğrudan alışveriş platformunun sorumluluğunda kalıyor.

Örneğin Muse yanlış bir ürün sipariş ederse ya da kullanıcının talimatını hatalı yorumlarsa, müşteri hizmetleriyle iletişime geçmesi gereken taraf Amazon olabilir. Satıcı da yanlış veya beklenmeyen bir siparişle uğraşmak zorunda kalabilir. Böyle bir tabloda hatanın kaynağı bir yapay zekâ asistanı olsa bile müşteri ve satıcı arasındaki süreci yönetmek Amazon’a düşüyor.

Platform açısından bir başka sorun da otomatik erişimin nasıl denetleneceği. İnsan kullanıcı, ürün sayfalarını ve sipariş özetini kendisi inceleyerek karar verirken bir yapay zekâ ajanı bu adımları farklı biçimde yorumlayabilir. Ürün seçenekleri, teslimat bilgileri ya da satın alma koşulları yanlış anlaşılırsa ortaya çıkan işlem yine Amazon’un altyapısında gerçekleşiyor. Bu da platformun güvenlik, müşteri desteği ve iade süreçlerini doğrudan etkileyebilir.

Yapay zekâ destekli alışverişte sorumluluk sorunu

Yapay zekâ modellerinin ürettiği hatalı veya gerçeğe uymayan sonuçlar hâlâ tamamen ortadan kalkmış değil. Muse, yapay zekâ modelleri arasında daha düşük halüsinasyon oranına sahip araçlardan biri olarak değerlendiriliyor; ancak bu oran sıfıra ulaşmış değil. Alışveriş gibi doğrudan para harcanan işlemlerde küçük bir hata bile müşteri memnuniyetsizliğine, iade süreçlerine veya satıcıyla yaşanan anlaşmazlıklara yol açabilir.

Bu durum, yapay zekâ ajanlarının internetteki hizmetlere hangi şartlarda erişebileceği sorusunu da büyütüyor. Bir kullanıcı tarayıcı üzerinden Amazon’a girdiğinde işlemleri kendisi kontrol ediyor. Buna karşılık bir ajan kullanıcı adına hareket ettiğinde, platformun hangi işlemden kimi sorumlu tutacağı daha karmaşık hâle geliyor. Kullanıcının onayı, ajanın verdiği karar ve alışveriş sitesinin kullanım koşulları aynı süreçte kesişiyor.

Buradaki temel sorun yalnızca bir sitenin açılıp açılmaması değil, işlemin hangi kurallar çerçevesinde gerçekleştirileceği. Bir platform, kullanıcı adına çalışan yazılımı normal ziyaretçiden farklı değerlendirebilir. Ajanın hangi sayfalara erişebileceği, hangi bilgileri kullanabileceği ve satın alma öncesinde ne kadar kontrol uygulayacağı netleşmeden otomatik alışverişin yaygınlaşması zor görünüyor.

Amazon, yapay zekâ ajanlarıyla gerçekleştirilen alışverişler için henüz kapılarını açmak istemiyor olabilir. Şirket, ajan destekli ticaretin potansiyelini görse bile teknolojinin birkaç geliştirme döngüsünden daha geçmesini beklemeyi tercih edebilir. Bu yaklaşım, otomatik siparişlerin hatalı işlemlerini ve sonrasında doğacak müşteri hizmetleri yükünü azaltma amacı taşıyabilir. Ancak mevcut engelin arkasındaki gerekçenin ne kadarının teknik, ne kadarının ticari olduğu konusunda ek bir açıklama bulunmuyor.

Muse’un Amazon’dan engellenmesi, yapay zekâ asistanlarının yalnızca bilgi sunan araçlar olmaktan çıkıp kullanıcı adına işlem yapan yazılımlara dönüşmesinin önündeki pratik engelleri gösteriyor. Ajanların ürün ve hizmetlere erişimi, teknik uyumluluk kadar platform kuralları ve sorumluluk paylaşımı tarafından da belirlenecek. Kullanıcıların tek bir komutla alışveriş yapabilmesi için önce platformların bu işlemleri tanıması, yapay zekâ araçlarının da hata durumlarında nasıl davranacağını daha açık biçimde ortaya koyması gerekiyor.