​Дев’ять стратегій захисту від біологічної зброї на основі ШІ

Біологічна зброя з використанням штучного інтелекту є потенційно катастрофічним, але керованим ризиком - за умови, що уряд, наукова спільнота, сектор охорони здоров'я та провідні технологічні компанії зможуть розробити належні заходи захисту, йдеться в новому звіті корпорації RAND, повідомляє Axios.

Чому це важливо: Дебати щодо ШІ та громадської безпеки - це не те, що спільнота охорони здоров'я чи дослідники можуть ігнорувати.

Головне в новинах: Звіт корпорації RAND, опублікований цього тижня, описує дев'ять стратегій пом'якшення ризиків, спрямованих на коло осіб, які можуть використати ШІ для розробки та випуску біологічної зброї. Хоча вже тривають значні суперечки щодо державного нагляду та заходів безпеки навколо провідних ШІ-компаній, RAND закликає до більшого контролю та широкої міжгалузевої співпраці. У звіті рекомендується захистити ті самі біологічні інструменти та набори даних, які сприяють деяким із найзахопливіших сучасних медичних досягнень. І хоча ми всі сприймаємо готовність системи охорони здоров'я як реакцію на спалах хвороби, звіт трактує її як форму стримування.

Загальна картина: Дев'ять заходів мають запобігти масштабній біологічній атаці із застосуванням ШІ шляхом управління доступом до інформації, яка може потрапити не в ті руки, блокування доступу до матеріалів, необхідних для створення зброї, проактивного виявлення ознак зловживання та стримування зловмисної діяльності ще до її початку. Частина проблеми зі швидким розвитком ШІ полягає в тому, що він розширює коло потенційних творців біологічної зброї - від одиночних зловмисників до суб'єктів, підтримуваних державою. «Можливості ШІ в біології розвиваються дуже швидко, але, на щастя, більшість небезпечних меж ще не перейдено», - сказала провідна авторка звіту RAND Стеф Герра. З огляду на характер загрози, «нам потрібна ця багаторівнева система підходів, які взаємно посилюють один одного».

Деталі: Пам'ятаєте всі ці розмови про те, що ШІ допомагає знаходити нові ліки? Деякі з технологій, що забезпечують цю роботу, можуть стати небезпечними в недобросовісних руках, зазначила Герра. Багато інструментів і біологічних даних, створених фармацевтичними та біотехнологічними компаніями, є інтелектуальною власністю, тобто доступ до них уже обмежений. Більше занепокоєння викликають біологічні інструменти та дані з відкритим вихідним кодом - зокрема ті, що надходять від академічних кіл і дослідницьких інститутів. «Зараз дані з біології перебувають у вільному та відкритому доступі, тому що біологія служить для відкриттів і порятунку життів. Це насамперед не про війну, і це добре», - сказала Герра.

Проте: Обмеження того, що знаходиться у відкритому доступі, ризикує уповільнити науковий прогрес. «Давайте створювати великі грандіозні проєкти та фабрики біоданих, які продукують дані, необхідні для лікування хвороб, але ми також можемо створити багаторівневі системи доступу, щоб тільки легітимні науковці мали доступ до наборів даних, найбільш вразливих до зловживань», - пояснила Герра.

Цікавий момент: Команда RAND досліджувала, як використання ШІ-агентів може зробити біологічні розробки доступнішими, знижуючи планку необхідних знань для створення біозброї. Ще цього тижня компанія Anthropic оголосила, що Claude успішно спроєктував білкові зв'язувачі для 14 мішеней - це важливий крок у процесі розробки ліків. У дописі в блозі Anthropic визнала як перспективи, так і небезпеку, зазначивши, що дизайн білків та інші дослідницькі біологічні можливості недоступні для загального доступу в найпотужнішій моделі компанії. «Поштовх, наданий дедалі автономнішими дослідницькими можливостями ШІ-моделей, безсумнівно, прискорить розробку методів лікування людини та фундаментальні наукові відкриття», - написала компанія. Але вона додала: «Без надійних заходів безпеки вони можуть дозволити зловмисникам проводити небезпечні дослідження, такі як розробка біологічної зброї».

Ілюстрація Axios