Онлайн
Специалисты американской фарм-компании Collaborations Pharmaceuticals запустили нейросеть, созданную для поиска лекарств, в «режим злодея», чтобы показать, насколько просто направить эту технологию во вред людям. Они были поражены, с какой скоростью нейросеть изобрела 40 000 потенциально летальных молекул.
Для того, чтобы ИИ начал создавать химическое оружие, инженерам Collaborations Pharmaceuticals пришлось всего лишь изменить методологию, чтобы алгоритмы искали, а не избегали токсичных соединений. ИИ обнаружил десятки тысяч новых субстанций. Некоторые из них были похожи по действию на ВИ-газ, самый токсичный из когда-либо полученных боевых отравляющих веществ.
Исследователи опубликовали свое открытие в журнале Nature Machine Intelligence. Журналисты Verge побеседовали с руководителем научной группы Фабио Урбиной, главным научным сотрудником компании.
По его словам, идея изменить методику разработки лекарственных препаратов при помощи ИИ пришла ученым в голову после приглашения на конференцию Convergence, которую проводит Швейцарский федеральный институт ядерной, биологической и химической защиты. Основная цель мероприятия — информировать общество о новых крупных разработках, которые могут касаться Конвенции о химическом и биологическом оружии.
Модель ИИ была обучена на собранной за долгие годы исследований базе данных молекулярных структур и их токсичности. С ее помощью была создана модель машинного обучения, которая понимает, какие элементы молекулярной структуры важны для токсичности, а какие нет. После чего ей можно дать новые молекулы, и она предскажет их токсичность. Такая технология позволяет очень быстро отсортировать химические соединения. Ученые Collaborations Pharmaceuticals просто инвертировали этот метод.
Другой ключевой элемент ИИ — генеративные модели. Загрузив в них множество различных молекулярных структур, исследователи получают список возможных новых молекул с желаемыми свойствами. В данном случае, целью была токсичность.
Ученые не собираются подтверждать свойства полученных 40 000 соединений, но предполагают, что среди такого количества наверняка найдутся весьма действенные молекулы. Многие из них были похожи на ВИ-газ или другие боевые отравляющие средства. Причем они были созданы с помощью модели, которая раньше никогда не имела дел с химическим оружием.
«Основное беспокойство у меня вызывает простота, — признался Урбина. — Многое из того, что мы использовали, можно приобрести бесплатно. Можно пойти и скачать данные по токсичности откуда угодно. Если у вас есть кто-нибудь, кто пишет код на Python и разбирается в машинном обучении, то за выходные вы сможете построить такую генеративную модель на базе данных по токсичности. Это заставило нас задуматься, выкладывать ли статью в открытый доступ. Порог вхождения для злоупотребления очень низкий».
