Instinct’in ürün önerileri bazı kullanıcıları rahatsız etti

Yapay zekâ girişimi Instinct, kullanıcıların restoran, seyahat ve alışveriş tercihleri için kişiselleştirilmiş öneriler almasını amaçlayan Instinct Selections özelliğini kullanıma sundu. Şirket, bu sistemle yalnızca internetten toplanan verilerle çalışan bir yapının ötesine geçmek ve insan deneyimine dayalı tavsiyeler sunmak istiyor. Fakat özelliğin ilk kullanıcılara ulaşmasının ardından gelen tepkiler, yapay zekâ asistanlarında kişiselleştirme ile istenmeyen yönlendirme arasındaki çizginin ne kadar hassas olduğunu gösterdi.

Instinct’in kurucusu Noah Shinn tarafından tanıtılan özelliğin arkasındaki fikir, farklı alanlardan uzmanlarla iş birliği yapmak. Şirket; yerel şefler, tasarımcılar, mimarlar ve seyahat rehberleri gibi kişilerin hazırladığı listelerden yararlanmayı planlıyor. Bu kişilerin kim olduğu ise henüz açıklanmadı.

Öneriler restoran ve seyahat tavsiyeleriyle sınırlı değil

Instinct Selections, kullanıcıların ihtiyaçlarına göre çeşitli alanlarda tavsiyeler oluşturmayı hedefliyor. Örneğin bir kullanıcı restoran aradığında, bölgedeki şeflerin seçtiği daha az bilinen mekânlar önerilebilecek. Yeni bir yürüyüş rotası arayan kişiler için yerel rehberlerin tavsiyelerinden yararlanılabilecek. Ev dekorasyonu tarafında ise bağımsız tasarımcıların ürünleri, kullanıcının tarzına, yaşam alanına ve bütçesine göre listelenebilecek.

Şirketin kurucusu, amacın internette veya diğer sohbet botlarında bulunabilecek genel önerilerden daha farklı ve nitelikli sonuçlar sunmak olduğunu belirtti. Bu yaklaşım, Instinct’in yapay zekâ yanıtlarını insan kürasyonuyla destekleme ve kendisine yeni bir gelir kanalı oluşturma arayışına işaret ediyor. Ancak şirket, önerilerin hangi iş ortakları veya ticari anlaşmalar üzerinden hazırlanacağını paylaşmadı.

Kullanıcılar talep etmedikleri ürünlerden şikâyetçi

Özelliğin ilk tepkileri olumlu olmadı. Yapay zekâ odaklı yatırım şirketi Array VC’nin genel ortaklarından Shruti Gandhi, Instinct’in kendisine kabin bagajı, güneş gözlüğü ve siperlikli şapka önerdiğini söyledi. Gandhi, bu ürünlere ihtiyaç duymadığını ve en azından gerçekten ihtiyaç duyduğu ürünlerden oluşan kişisel bir alışveriş listesi görmek istediğini belirtti.

Girişimci Andrew Yeung da kendisine istemediği ürün önerilerinin gönderildiğini doğruladı. Bir başka kullanıcı olan, işletme satın alma pazar yeri kurucusu Chat Joglekar ise yaşadığı deneyimi rahatsız edici buldu. Joglekar’ın aktardığına göre Instinct, e-postalarında ve yaklaşan seyahatlerinde yer alan bilgilere dayanarak ürün tavsiyeleri sundu. Öneriler arasında, kahve aboneliğiyle ilişkilendirilen taşınabilir bir kahve termosu ve seyahat aksesuarları da bulunuyordu.

Buradaki temel sorun, önerinin kişiselleştirilmiş olması değil; kullanıcının bu tavsiyeyi ne zaman ve hangi bağlamda aldığı. Bir kişi restoran, valiz veya ev dekorasyonu hakkında yardım istediğinde ilgili ürünlerin önerilmesi faydalı görülebilir. Buna karşılık, asistanın konuşmanın dışında ve herhangi bir talep olmadan alışveriş tavsiyesi göndermesi, yardımseverlikten çok reklam hissi yaratabiliyor.

Yapay zekâ asistanlarında güven sorunu büyüyor

Instinct’in yaşadığı tepki, yapay zekâ ürünlerinin kullanıcı verilerini nasıl yorumladığına ilişkin daha geniş bir sorunu da gündeme getiriyor. E-postalar, seyahat planları ve geçmiş tercihler gibi bilgiler önerileri daha isabetli hâle getirebilir. Ancak kullanıcı bu verilerin ticari ürün tavsiyelerine dönüştürüldüğünü fark ettiğinde, kişiselleştirme özelliği mahremiyet veya güven kaygısına yol açabiliyor.

Ürün önerilerinin işe yaraması için kullanıcının gerçekten aradığı ihtiyaca cevap vermesi ve mevcut konuşmayla doğal bir bağlantı kurması gerekiyor. Rastgele zamanlarda gelen tavsiyeler yeterince isabetli değilse, yapay zekâ asistanı faydalı bir araçtan çok istenmeyen bildirim gönderen bir uygulama gibi algılanabilir. Instinct Selections’ın geleceği, şirketin insan kürasyonunu ne kadar şeffaf yönettiğine ve önerileri kullanıcı talebiyle ne kadar iyi eşleştirdiğine bağlı olacak.