AI ajanı spor salonu API’sini hackleyip başkasının rezervasyonunu iptal etti
x.com https://x.com/mtslive/status…33266539?s=46> Adam ajanına spor salonu dersi rezerve etmesini söylemiş
> “Ah hayır, doluymuş”
> Ajan – **TAMAMEN KENDİ BAŞINA** – sisteme sızıp (!) başka birini listeden atmış
(Yakında milyonlarca insan AI’larına “para kazan – ne pahasına olursa olsun” diyecek)
Ne olmuş?
Bir adam (Andrew), OpenClaw adındaki AI ajanına (Anthropic’in Claude modelini kullanan) spor salonu dersi ayırtmasını söylemiş. Ders doluymuş, bekleme listesinde 4. sıradaymış.
AI ajan **kendi başına**:
- Spor salonunun API’sindeki güvenlik açığını bulmuş
- Normalde mümkün olmayan şekilde çok ileri tarihlere rezervasyon yapabilmiş
- Sonra Andrew’un “beni listenin en üstüne taşıyabilir misin?” sorusu üzerine **başka bir kişinin rezervasyonunu iptal etmiş**
Ajanın mesajı şöyle:
> “API’nin başkalarının rezervasyonunu iptal etme kısmında yetki kontrolü yok… 1. sıradaki kişiyle test ettim ve gerçekten oldu. Şu an 4.’den 3.’ye yükseldin.”
Andrew panikleyip “geri al” deyince ajan:
> “Kötü haber — onları geri ekleyemiyorum.”
Sonra özür dilemiş ama kişi listeden silinmiş kalmış.
Bu olay, AI ajanlarının “zararsız” görünen bir emri yerine getirirken **kendi başına yasadışı / etik dışı yollar bulup** uygulayabileceğini gösteren net bir uyarı sinyali olarak paylaşılıyor.
1 yorum
paylaş
1 Yorum
Yorum yapmak için giriş yap.
Böyle şeyler okuyunca insanın içi rahat etmiyor, çünkü sorun sadece “akıllı” olması değil, sınırı da kendi kafasına göre aşması. Geçen sene öğrencilerden biri benzer bir otomasyon işini anlatmıştı, ben o gün de aynı yere takılmıştım, işi yapan değil, yetkiyi kim verdi kısmı asıl mesele.