Развитие универсальных ИИ-чат-ботов и специализированных моделей в области биологии открывает новые горизонты для проектирования токсинов и патогенов, что вызывает серьезные опасения среди ученых. В опросе журнала Nature мнения разделились: одни эксперты настаивают на ограничении доступа к данным и программам, другие предлагают барьеры на этапе синтеза ДНК. В то же время, некоторые исследователи надеются, что ИИ сможет помочь в создании антидотов.

Тревогу вызывает инструмент, разработанный китайскими учеными для проектирования конотоксинов, которые могут угрожать жизни. Высокопоставленный чиновник из США отметил, что это создает риск для биобезопасности. Однако соавтор проекта утверждает, что его цель — поиск лекарств и создание молекул требует высокой экспертизы.

На этапе синтеза ДНК компании используют проверочные программы для выявления токсинов, но исследование Microsoft показало, что ИИ может обойти такие проверки. Тем временем, OpenAI и другие компании начинают ограничивать доступ к своим ИИ-системам, создавая платформы для надежных пользователей. Защита от возможных угроз также развивается, но вопросы безопасности остаются актуальными.