Ученые бьют тревогу: ИИ стал настолько мощным, что может создать "Франкенштейна"

В последние годы разработки в области искусственного интеллекта (ИИ) достигли уровня, при котором "нейронки" могут не только анализировать данные, но и теоретически моделировать и проектировать биологические последовательности, такие как белки и ДНК. Это вызывает обеспокоенность среди ученых и экспертов по безопасности, которые подчеркивают, что, хотя такие технологии имеют огромный потенциал для медицины и науки, они также несут в себе риски злоупотребления и требуют надлежащего регулирования и этических ограничений, пишет Singularity Hub.

ИИ-модели, включая современные алгоритмы для проектирования белков и генетических последовательностей, уже способны существенно ускорять научные исследования и разработки лекарств, помогая ученым прогнозировать структуру белков или оптимизировать терапевтические молекулы. Эти инструменты, по мнению сторонников использования ИИ в медицине, ускоряют разработку вакцин и новых препаратов, анализируют структуру вирусов и помогают лучше понять болезни. Такой вклад, уверяют они, может иметь решающее значение для будущего всей медицины, а не только развития биотехнологий.

Однако именно этот потенциал двойного использования вызывает тревогу у многих специалистов. Недавние научные отчеты и публикации подчеркивают, что инструменты ИИ, способные автоматически проектировать биологические последовательности, могут быть неправильно использованы для создания опасных биологических агентов или токсинов, если не будет введен надежный контроль. Ученые предупреждают, что такие системы "уязвимы для злоупотребления и производства опасных биологических веществ", если работа проводится без адекватных ограничений и надзора, пишет PMC.

При этом эксперты отмечают: ИИ сам по себе не превращается в независимое оружие, поскольку для реального создания биологических угроз все еще необходимы лабораторный доступ, материалы, оборудование и опытные специалисты. Тем не менее снижение барьеров благодаря ИИ может расширить круг тех, кто потенциально способен проводить сложные биологические манипуляции, что увеличивает требования к контролю над такими технологиями.

Ученые и международные организации настаивают, что сейчас нужно сосредоточиться на разработке строгих норм управления, контроля доступа, этических рамок и механизмов регулирования, чтобы ИИ оставался инструментом, служащим медицине, науке и благополучию людей, а не угрозой безопасности. Это включает разработку подходов к оценке рисков моделей перед их внедрением, укрепление процедур скрининга биологических данных и усиление международного сотрудничества в области биобезопасности.

Позиция экспертов по ИИ сходна с историческими аналогиями в других областях технологий: как и в случае с ядерной энергией, вызовы заключаются не в остановке прогресса, а в грамотном управлении и регулировании, чтобы обеспечить максимальные выгоды при минимальных рисках для общества.