VX - это разновидность "нервно-паралитического газа", впервые синтезированная в британской лаборатории химических боеприпасов в Портон-Дауне в 1950-х годах. Всего 8 миллиграммов (две крупинки соли) убьют взрослого человека при контакте с кожей. При вдыхании или проглатывании - полмиллиграмма. Он не имеет запаха и вкуса, и он образует настолько тонкий туман, что практически невидим.

Портон-Дауну потребовалось почти десять лет, чтобы разработать его на основе немецких нервно-паралитических газов, которые британцы обнаружили в конце Второй мировой войны, но с помощью машинного обучения теперь можно придумать нечто подобное практически в кратчайшие сроки.

Очень маленькая компания", выпустившая вышеупомянутое предупреждение, опубликованное в научном журнале Nature Machine Learning, - это "Collaborations Pharmaceuticals, Inc.", расположенная в Роли, Северная Каролина. Их бизнес-модель заключается в открытии новых лекарств, а точнее, в их разработке, и они не имеют никакого отношения к отравлению людей.

Как и все в бизнесе по поиску лекарств в наши дни, их основным инструментом является "машинное обучение" - не совсем искусственный интеллект в его первоначальном понимании, а подкатегория искусственного интеллекта, которая просто поглощает огромное количество данных и ищет в них сходства.

Эти сходства подскажут возможные новые молекулы ("de novo"), которые, возможно, не существуют в природе, но могут быть полезны при лечении заболеваний. Вы синтезируете их, испытываете, и время от времени вам удается найти такую молекулу, которая действительно заполняет пробел в существующем фармацевтическом арсенале. Но они могут служить и для других целей.

Два года назад четверо ученых-исследователей, работающих в компании Collaborations Pharmaceuticals - Фабио Урбина, Филиппа Ленцос, Седрик Инверницци и Шон Экинс - были приглашены выступить на конференции, проводимой раз в два года Швейцарским институтом защиты населения от ядерных, биологических и химических угроз и опасностей - сокращенно Лаборатория Шпиц.

Лаборатория Spiez - одна из пяти в мире, сертифицированных Организацией по запрещению химического оружия для выявления разработок в области химии, биологии и вспомогательных технологий, которые имеют последствия для конвенций по химическому и биологическому оружию. Организация попросила четверку рассмотреть вопрос о том, как технологии искусственного интеллекта для открытия лекарств могут быть использованы не по назначению.

"Эта мысль никогда не приходила нам в голову", - пишут исследователи. "Мы смутно знали о проблемах безопасности при работе с патогенами или токсичными химикатами, но это не касалось нас. Наша работа связана с построением моделей машинного обучения для терапевтических и токсичных мишеней, чтобы лучше помочь в разработке новых молекул для открытия лекарств".

Их компания уже разработала "генератор молекул de novo", который создавал огромное количество возможных молекул и сортировал их на биоактивность (желательные) и токсичность (нежелательные). Затем те, которые прошли эти тесты, были исследованы на предмет дальнейших полезных свойств.

Однако теперь они исследовали, как легко можно создать молекулы с действительно смертоносными свойствами. "Мы просто перевернули эту логику, используя тот же подход для проектирования молекул de novo, но теперь направили модель на поощрение токсичности и биоактивности". Фактически, они выбрали VX как вид молекулы, на которую должен ориентироваться ИИ.

Они не создавали реальные молекулы, но ИИ создал 40 000 новых смертоносных виртуальных молекул в течение шести часов. Некоторые из них напоминали VX и другие существующие нервно-паралитические яды, но "другие занимали область пространства молекулярных свойств, которая была полностью отделена от многих тысяч молекул в домене (VX/пестицид/органофосфат)".

В этот момент американские исследователи и лаборатория Шпица должны были остановиться и спросить себя: стоит ли нам обнародовать это и рисковать, давая плохим людям идеи, или промолчать и надеяться, что никто больше не поймет, как это просто? Ответ, очевидно, заключается в том, что люди не глупы. Кот скоро вылезет из мешка, что бы они сейчас ни делали.

Никто не хочет ограничивать исследования новых лекарств, но пора начать думать о том, как контролировать доступ к определенным моделям машинного обучения, публичным базам данных и фармацевтическим заводам химического синтеза, которые потребуются для создания сверхсмертельных молекул.

И вот небольшое утешение. Стандартным противоядием от всех нервно-паралитических газов является атропин, но он не очень надежен, и у вас никогда не будет под рукой маленького автоинжектора, когда он вам понадобится. Тем не менее, в крайнем случае, валиум, вероятно, поможет не хуже. Действительно.

Author

Gwynne Dyer is an independent journalist whose articles are published in 45 countries.

Gwynne Dyer