Anthropic, teknolojinin kötüye kullanımının tespiti ve önlenmesine ilişkin rapor yayımladı.
We're publishing our most detailed threat intelligence report to date.
It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.
We disrupted every operation in the report,…— Anthropic (@AnthropicAI) September 10, 2026
Raporda, yapay zekanın mevcut patojenleri daha tehlikeli hale getirme veya yeni patojenlerin geliştirilmesine yardımcı olabilecek yeteneklere ulaşabileceğine ilişkin endişelere dikkat çekildi.
Şirkete ait Claude modellerinin biyolojik silah geliştirilmesini destekleyebilecek şekilde kullanıldığı iki örneğe yer verilen raporda, bir araştırmacının kuş gribinin memelilere adaptasyonu üzerine deneyler planlamak için Claude'dan yararlanmaya çalıştığı, bir başka vakada ise devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı belirtildi.
Söz konusu vakaların tespit edilmesinin ardından ilgili hesapların engellendiği ve benzer faaliyetlerin daha etkili şekilde önlenmesi için yeni adımlar atıldığı aktarıldı.
Raporda, örneklerde yer alan kişilerin kötü niyetli olduğunun iddia edilmediği, şirketin tedbir amacıyla hareket ettiği vurgulandı.
Anthropic çalışanı Jacob Coxon da yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini" savunarak şirketten istifa ettiğini açıklamış, paylaşımı milyonlarca kez görüntülenmişti.