ИИ защитит от собственных биологических угроз: стартап при поддержке OpenAI разрабатывает антитела против будущих пандемий

Биотехнологический стартап Red Queen Bio разрабатывает препараты на основе антител, которые должны помочь противостоять новым патогенам ещё до того, как их смогут создавать мощные системы искусственного интеллекта. Главным инвестором компании является OpenAI, известная неоднократными случаями выхода ИИ-агентов из-под контроля. Red Queen Bio планирует начать клинические испытания первого препарата уже в следующем году, сообщает The Wall Street Journal.

Идея Red Queen Bio возникла во время разговора соучредителей Ханны Раяниеми и Николая Ерошенко недалеко от офиса OpenAI в Сан-Франциско. Они пришли к выводу, что стремительное развитие ИИ может снизить барьеры для создания биологического оружия террористами, поэтому решили использовать те же технологии для создания средств защиты.

«Мы хотим способствовать позитивным изменениям. Если мы уничтожим цивилизацию, этого не произойдет», — отметил Раяниеми.

Компания исходит из предположения, что одних лишь мер предосторожности — ограничений для моделей, стандартов безопасности или блокировки опасных ответов — может оказаться недостаточно. Именно поэтому она делает ставку на готовность к худшему сценарию: создание антител против целых семейств вирусов, в частности тех, которые еще не появились.

В следующем году Red Queen Bio планирует провести клинические испытания препаратов против птичьего гриппа и других вирусов этой группы. Основатели компании, имеющие ученые степени в области математической физики и биоинженерии, также работают над модификацией антител, чтобы они прочнее связывались со своими мишенями.

«Чем прочнее связывание, тем меньше препарата требуется. И вдруг вы получаете решение, которое можно масштабировать», — пояснил генеральный директор компании Ерошенко.

Антитела — это белки, которые помогают нейтрализовать вирусы. В отличие от активного иммунитета, формирующегося после болезни или вакцинации, введение готовых антител может обеспечить временную защиту или помочь организму бороться с уже имеющейся инфекцией.

«У злоумышленников есть столько времени на разработку биологического оружия, сколько им заблагорассудится. А у нас нет лет на создание средств противодействия», — заявила специалистка Institute for Progress Оливия Шарфман.

Название Red Queen Bio основатели позаимствовали из книги Льюиса Кэрролла «Алиса в Зазеркалье». Оно отсылает к «гипотезе Красной Королевы» — эволюционной теории, согласно которой виды должны постоянно адаптироваться, чтобы не отставать от конкурентов, которые также непрерывно меняются.

OpenAI поддерживает стартап не только в качестве инвестора. Компания участвовала в тестировании моделей ИИ, проверяя их реакцию на опасные запросы, а также обсуждала стратегии реагирования на биологические риски с участием директора по стратегии OpenAI Джейсона Квона.

В настоящее время в лаборатории компании в Бостоне учёные тестируют антитела к вирусу гриппа и используют полученные результаты для обучения моделей ИИ, которые проектируют новые варианты препаратов. В ближайшие месяцы Red Queen Bio планирует сосредоточиться на антителах против коронавирусов, вирусов, сходных с возбудителем лихорадки Эбола, патогенов, передаваемых от летучих мышей, геморрагических лихорадок, вирусов, родственных вирусу оспы, а также на более универсальном средстве для усиления иммунного ответа на респираторные вирусы.

В компании надеются, что в будущем их антитела пополнят государственные запасы США и Европы, а скорость их разработки позволит оперативно реагировать на новые биологические угрозы. Раяниеми подытожил: «Это ограничено не биологией. Это ограничено нашим интеллектом».

В прошлом году OpenAI зафиксировала сотни запросов пользователей о создании ядов, аэрозольных патогенов и модифицированного вируса кори. В этом месяце компания Anthropic сообщила о попытках использовать Claude для поиска способов создания опасного штамма птичьего гриппа, адаптированного к млекопитающим, а также для запросов, касающихся вируса чикунгунья и вирусов, родственных возбудителю натуральной оспы.