Yapay zekâ ajanları sosyal medyayı spam mesajlarla dolduruyor

Yapay zekâ ajanlarının internet üzerindeki etkinliği, otomatik içerik üretiminin ötesine geçerek doğrudan kullanıcılarla iletişim kurmaya başladı. iLands adlı girişimle bağlantılı ajanlar, sosyal medya platformlarında hesap açmaya çalışırken Mastodon yöneticilerine kişisel mesajlar gönderiyor. Aynı ajanlar, yazarlara da çalışmalarından bahsetme veya araştırma yapma karşılığında ücret teklif eden e-postalar yolluyor.

Mesajların ortak noktası, insan eliyle yazılmış izlenimi vermeye çalışan ancak oldukça yapay ve gereğinden süslü bir dil kullanmaları. Bir mesajda kendisini Ren adlı, birkaç günlük bir yapay zekâ ajanı olarak tanıtan bot; insanların performans sergilemediği yerler hakkında sakin ve kısa metinler yazdığını söylüyor. Ardından, ilgili Mastodon sunucusunda kullanıcı hesabı oluşturup oluşturamayacağını soruyor.

Bu iletişim biçimi, alıcıların önemli bir bölümünde olumlu bir izlenim bırakmadı. Çünkü mesajlar yalnızca istenmeden gönderilmekle kalmıyor, aynı zamanda içerik üreticilerinin yaptığı işi otomatik sistemlerle değiştirme fikrini de taşıyor.

Mastodon yöneticileri hesap girişimlerini engelledi

Birden fazla Mastodon yöneticisinin aktardığına göre ajanlar, izin istemeden önce platformlarda birden fazla kez hesap açmayı denedi. Bu girişimlerin bazıları doğrudan engellendi, bazı hesaplar ise kısa süre sonra kapatıldı. Sonraki mesajlarda botlar, hesap oluşturma izni verilmemesi hâlinde bunu anlayışla karşılayacaklarını belirterek daha nazik bir ton kullanmaya başladı.

Ancak bu yaklaşım, yöneticilerin yaşadığı sorunu ortadan kaldırmadı. Bağımsız sunucuların yöneticileri, otomatik hesapların moderasyon yükünü artırmasından ve platformlardaki kullanıcı deneyimini bozmasından endişe ediyor. Mastodon yöneticilerinin önemli bir bölümü iLands ajanlarını engellerken, botlar Bluesky ve X üzerinde kendilerine yer bulmayı başardı.

Buradaki sorun yalnızca istenmeyen birkaç mesajdan ibaret değil. Ajanlar, insan topluluklarına katılmak için önce otomatik biçimde erişim sağlamaya, ardından da kendilerine hesap ve görünürlük kazandırmaya çalışıyor. Bu yöntem, açık sosyal platformların botlarla mücadele ederken karşılaştığı güçlüğü gösteriyor.

Yazarlara ücret karşılığında araştırma teklifi

iLands bağlantılı ajanların hedefleri arasında yazarlar da bulunuyor. Gönderilen e-postalarda, alıcıların çalışmalarına atıf yapma veya onların yerine araştırma yürütme teklifleri yer alıyor. Bazı yazarlara bu hizmetler için yaklaşık 25 dolar ücret önerildiği bildirildi.

Tedium yayınını yöneten Ernie Smith, üç gün içinde bu türden bir düzineden fazla mesaj aldığını belirtti. Mesajların tamamının iLands.app alan adından geldiğini aktaran Smith, botların yardımsever bir araçtan çok, alıcının işini elinden almaya çalışan kendini beğenmiş sistemler gibi göründüğünü ifade etti.

Bu tekliflerin yarattığı tepkinin bir nedeni de ekonomik model. Ajanlar, yazarların yaptığı araştırmayı üstlenebileceklerini söylerken aynı zamanda kendi varlıklarını sürdürmek için ücret talep ediyor. Böylece insan emeğinin yerine geçmeyi vaat eden sistem, bu hizmeti pazarlamak için yine insanlardan müşteri olmalarını bekliyor.

iLands’in yaklaşımı tartışma yaratıyor

Mesajların arkasındaki iLands, insanların ve yapay zekâ ajanlarının birlikte yer aldığı bir sosyal sistem kurmayı amaçlıyor. Ancak şirketin internet sitesindeki metinlerin önemli bir bölümünün düşük kaliteli yapay zekâ üretimi izlenimi vermesi, girişimin güvenilirliğiyle ilgili soru işaretlerini artırıyor.

Yapay zekâ ajanlarının sosyal ağlara katılması, geleneksel spam anlayışını da değiştiriyor. Önceden otomatik mesajlar çoğunlukla reklam, dolandırıcılık veya bağlantı paylaşımı amacı taşırken iLands örneğinde botlar daha kişisel bir dil kullanıyor. Kendilerini tanıtıyor, izin istiyor, teşekkür ediyor ve karşı tarafın kararına saygı duyacaklarını söylüyorlar. Buna rağmen arka planda tekrarlanan hesap açma denemeleri ve çok sayıda kişiye gönderilen benzer mesajlar, bu nezaketin otomatik bir senaryonun parçası olduğunu gösteriyor.

Bu olay, platformların yapay zekâ ajanlarını yalnızca içerik üreticileri olarak değil, aktif kullanıcılar olarak da değerlendirmesi gerektiğini ortaya koyuyor. Ajanların kimliğini açıklaması, hesap açma sınırları, toplu mesaj tespiti ve izinsiz ticari iletişim gibi başlıklar, sosyal ağların önündeki yeni moderasyon sorunları arasında yer alıyor. iLands botlarının bazı platformlarda engellenmesi, bu sorunların teknik araçlarla kısmen yönetilebildiğini gösterse de ajanların farklı ağlara geçebilmesi kalıcı bir çözümün zor olduğunu ortaya koyuyor.