Сценарій використання штучного інтелекту для створення біологічної зброї — один з найважчих і обговорюваних ризиків. На відміну від ядерної загрози, де потрібні колосальні промислові потужності, біологічна зброя вимагає передусім інформації та доступу до лабораторій. ІІ може радикально знизити цей бар'єр.
Головна загроза не в тому, що ІІ сам захоче когось убити, а в тому, що він може зробити створення біологічної зброї доступним для невеликої групи людей або навіть окремих осіб. Якщо раніше для цього були потрібні роки навчання та доступ до складних матеріалів, то зараз ІІ може взяти на себе значну частину інтелектуальної роботи.
У 2026 році компанія Антропік опублікувала звіт, в якому описала п'ять реальних випадків, коли дослідники з різних країн використовували їхню модель для потенційно небезпечної біологічної роботи. Зокрема, один з користувачів планував використовувати ІІ для пошуку мутацій вірусу чикунгунії, які підвищують його здатність поширюватися та уникати імунітету. Інший дослідник працював над адаптацією высокопатогенного пташиного грипу до ссавців, що могло б збільшити його пандемічний потенціал.
Коли модель відмовлялася відповідати на небезпечні запити, користувачі знаходили обходні шляхи. У одному випадку запити перенаправлялися на інші моделі з менш суворими налаштуваннями, а доступ до системи здійснювався через сторонні платформи для обхідження географічних обмежень.
Технічно сценарій катастрофи може виглядати так.
На шляху до реалізації цього сценарію стоять серйозні перешкоди.
Фізичні обмеження: ІІ не може самостійно створити вірус у пробірці. Для цього потрібні реальні лабораторії, обладнання та матеріали. Эксперти відзначають, що для створення вірусу, небезпечного для людини, а не для бактерій, необхідні величезні зусилля, час і гроші.
Непередбачуваність біології: біологічні системи хаотичні. Спроектований патоген може мутувати, втрачати летальність або, що ще гірше, повертатися до створювача. Саме через цю непередбачуваність більшість країн відмовилися від наступальних біологічних програм.
Захисні механізми: компанії, що розвивають ІІ, вже впроваджують фільтри, що блокують небезпечні запити. Однак, як показав звіт, ці фільтри можна обходити, і вони не завжди ефективні проти целеустремлених зловмисників.
Эксперти сходяться на думці, що необхідні багатошарові заходи захисту. Якщо вже зараз обговорюються наступні підходи.
Таким чином, ІІ не створює біологічну зброю сам по собі, але він є потужним прискорювачем і консультантом для тих, у кого є відповідні наміри та доступ до лабораторій. Ризик полягає в тому, що бар'єр для входу в цю сферу стає лякаюче низьким.
Новые публикации: |
Популярные у читателей: |
Новинки из других стран: |
![]() |
Контакты редакции |
О проекте · Новости · Реклама |
Цифровая библиотека Украины © Все права защищены
2009-2026, ELIBRARY.COM.UA - составная часть международной библиотечной сети Либмонстр (открыть карту) Сохраняя наследие Украины |
Россия
Беларусь
Украина
Казахстан
Молдова
Таджикистан
Эстония
Россия-2
Беларусь-2
США-Великобритания
Швеция
Сербия