Kurumsal Yapay Zekayı Tehdit Edebilecek Yetkilendirme Sorunu
Bir yapay zeka ajanı CRM’inize giriş yapıp veritabanınızdan kayıtları çekip sizin adınıza e-posta gönderdiğinde, hangi kimliği kullanıyor? Ve kimse bu sorunun cevabını bilmediğinde ne oluyor? Corridor’un ürün müdürü Alex Stamos ve 1Password CTO’su Nancy Wang, VB AI Impact Salon Serisi’nde ajan tabanlı yapay zekanın getirdiği yeni kimlik çerçevesi zorluklarını ele aldı. Wang, "Yüksek seviyede mesele sadece bu ajanın kime veya hangi kuruluşa ait olduğu değil, bu ajanın hangi yetkiyle hareket ettiği, bunun da yetkilendirme ve erişime dönüşmesi" dedi.
Nancy Wang, 1Password’un bu alana nasıl geldiğini ürün geçmişi üzerinden anlattı. Şirket, başlangıçta tüketici odaklı bir parola yöneticisiydi ve kurumsal kullanımı, çalışanların zaten güvendikleri araçları iş yerlerine getirmesiyle organik olarak büyüdü. Wang, "Kullanıcılar arayüze alışıp güvenlik ve gizlilik standartlarımızı beğendikçe, aracı kurumsal ortama taşıdılar" dedi. Şimdi aynı dinamik yapay zekada da yaşanıyor; ajanların da insanlar gibi sırları ve parolaları var.
1Password, müşterilerine yardımcı olduğu güvenlik-gerilimiyle kendi içinde de mücadele ediyor: mühendislerin hızlı hareket etmesini sağlarken güvenlik sorunları yaratmamak. Wang, Claude Code ve Cursor gibi araçları kullanan mühendislerin AI tarafından üretilen koddaki olay oranını yakından takip ettiklerini belirtti. Corridor’dan Stamos ise geliştiricilerin kimlik bilgilerini doğrudan yapay zeka istemlerine yapıştırmasının yaygın ve büyük bir güvenlik riski olduğunu söyledi. Bu davranış Corridor tarafından tespit edilip geliştiriciler doğru sır yönetimine yönlendiriliyor.
Güvenlik ajanları ile kodlama modelleri arasındaki geri bildirimde karşılaşılan bir diğer zorluk ise yanlış pozitifler. Çok dostane ve uyumlu büyük dil modelleri, güvenlik tarayıcılarının yanlış pozitiflerine karşı aşırı tepki verebiliyor. Stamos, "Bir hatayı bildirirseniz model bunu kesin hata olarak kabul ediyor ve yanlışsa doğru kod yazma yeteneği tamamen bozuluyor" dedi. Bu nedenle, geleneksel statik analiz araçlarından farklı olarak, doğruluk ve geri çağırma arasında hassas bir denge kurulması gerekiyor.
Resolve AI CEO’su Spiros Xanthos, bir ajanın ortamınızdaki diğer yazılımlardan çok daha fazla erişime sahip olduğunu belirtti. Bu yüzden güvenlik ekiplerinin endişeleri anlaşılır. Wang, ajanlara sınırlandırılmış, denetlenebilir ve zaman sınırlı kimlikler vermek için konteyner ortamları için geliştirilen SPIFFE ve SPIRE gibi standartların test edildiğini söyledi ancak uyumun zor olduğunu kabul etti. Ayrıca, ajanlara tüm sistemin anahtarlarını vermek yerine, en az ayrıcalık prensibinin görev bazında uygulanması gerektiğini vurguladı. Kurumsal ortamlarda sadece erişim vermek yetmeyecek, hangi ajanın hangi yetkiyle ve hangi kimlik bilgileriyle hareket ettiği bilinmeli. Stamos, OIDC uzantılarının bu alandaki standart tartışmalarında önde olduğunu belirtti ve özel çözümlerin kazanamayacağını söyledi.
Stamos, tüketici tarafında kimlik sorunlarının büyük olasılıkla mevcut güvenilir platformlar etrafında konsolide olacağını öngördü. Facebook’ta CISO olarak görev yaptığı dönemde günde yaklaşık 700.000 hesap ele geçirme vakasıyla karşılaştığını belirten Stamos, milyar kullanıcıya sahip bir şirket için uç durumların gerçek insan zararına yol açan durumlar olduğunu ifade etti. Bu nedenle, kimlik yönetimi hem insanlar hem de ajanlar için gelecekte çok büyük bir sorun olmaya devam edecek.
