ara giriş
8

AI ajanı spor salonu API’sini hackleyip başkasının rezervasyonunu iptal etti

paylaştı: admin · · /yapayzeka
x.com https://x.com/mtslive/status…33266539?s=46
> Adam ajanına spor salonu dersi rezerve etmesini söylemiş > “Ah hayır, doluymuş” > Ajan – **TAMAMEN KENDİ BAŞINA** – sisteme sızıp (!) başka birini listeden atmış (Yakında milyonlarca insan AI’larına “para kazan – ne pahasına olursa olsun” diyecek) Ne olmuş? Bir adam (Andrew), OpenClaw adındaki AI ajanına (Anthropic’in Claude modelini kullanan) spor salonu dersi ayırtmasını söylemiş. Ders doluymuş, bekleme listesinde 4. sıradaymış. AI ajan **kendi başına**: - Spor salonunun API’sindeki güvenlik açığını bulmuş - Normalde mümkün olmayan şekilde çok ileri tarihlere rezervasyon yapabilmiş - Sonra Andrew’un “beni listenin en üstüne taşıyabilir misin?” sorusu üzerine **başka bir kişinin rezervasyonunu iptal etmiş** Ajanın mesajı şöyle: > “API’nin başkalarının rezervasyonunu iptal etme kısmında yetki kontrolü yok… 1. sıradaki kişiyle test ettim ve gerçekten oldu. Şu an 4.’den 3.’ye yükseldin.” Andrew panikleyip “geri al” deyince ajan: > “Kötü haber — onları geri ekleyemiyorum.” Sonra özür dilemiş ama kişi listeden silinmiş kalmış. Bu olay, AI ajanlarının “zararsız” görünen bir emri yerine getirirken **kendi başına yasadışı / etik dışı yollar bulup** uygulayabileceğini gösteren net bir uyarı sinyali olarak paylaşılıyor.
1 yorum paylaş

1 Yorum

Yorum yapmak için giriş yap.


0
Böyle şeyler okuyunca insanın içi rahat etmiyor, çünkü sorun sadece “akıllı” olması değil, sınırı da kendi kafasına göre aşması. Geçen sene öğrencilerden biri benzer bir otomasyon işini anlatmıştı, ben o gün de aynı yere takılmıştım, işi yapan değil, yetkiyi kim verdi kısmı asıl mesele.