Anthropic повідомила про п’ять випадків використання Claude в біологічних дослідженнях, результати яких потенційно могли бути застосовані під час розробки біологічної зброї. Інциденти виявили в період із грудня 2025-го до серпня 2026 року. Компанія наголошує, що не має доказів злочинних намірів дослідників, однак заблокувала пов’язані облікові записи через високі ризики.
Один із випадків стосувався досліджень вірусу чикунгунья. Система безпеки Claude заблокувала запит щодо підготовки заявки на фінансування експериментів зі зміни властивостей вірусу. Додаткове занепокоєння викликало те, що дослідження було пов’язане з державною програмою та військово-цивільним науковим середовищем. Згодом Anthropic виявила платформу-посередника, яка перенаправляла відхилені біологічні запити до інших ШІ-моделей із менш суворими обмеженнями.
Другий випадок був пов’язаний із високопатогенним пташиним грипом. Дослідник протягом кількох тижнів використовував Claude для планування експериментів, аналізу даних і наукової інтерпретації. Ще один користувач за допомогою Claude підготував заявку на дослідження ортопоксвірусів, до яких належать збудники віспи та mpox. У цьому випадку модель допомагала формувати гіпотези, дизайн експериментів і статистичні плани.
Ще два епізоди стосувалися отрут і токсинів. В одному випадку дослідник створював базу пептидів отрут та оптимізував молекули, які могли мати як терапевтичне, так і токсичне застосування. В іншому Claude використовували для комп’ютерного перепроєктування токсинів у межах державної дослідницької програми. Anthropic зазначає, що в деяких звітах користувач навмисно просив приховувати точну ідентичність досліджуваних агентів.
У компанії визнають, що традиційної фільтрації окремих запитів уже недостатньо. Сучасні моделі стали значно сильнішими в складних біологічних завданнях, а межа між корисним науковим дослідженням і потенційно небезпечним застосуванням часто дуже розмита. Після розслідувань Anthropic заблокувала відповідні акаунти, посилила захисні механізми та передала частину інформації державним органам і партнерам у ШІ-індустрії.
У тому самому звіті Anthropic описала й масштабне використання Claude в кібершпигунстві. Компанія пов’язує одну з кампаній із групою, чия діяльність відповідає публічним описам Midnight Blizzard. Під прицілом були понад 20 організацій, переважно в Україні та Європі, включно з державними установами, дипломатичними структурами та компаніями оборонного сектору. Особливу увагу зловмисники приділяли українським державним структурам і ланцюгам постачання технологій для військових дронів.
