Эксперты в области безопасности, а также главы ведущих ИИ-разработчиков, включая OpenAI, Anthropic и DeepMind AI lab, призвали Конгресс США обеспечить защиту от биологических угроз, вызванных технологиями искусственного интеллекта, сообщила в среду The Wall Street Journal.
Американских законодателей просят разработать ограничительные механизмы для контроля разработки синтетических ДНК и РНК, такие технологии применяются сегодня, в частности, при создании вакцин. Топ-менеджеры компаний-разработчиков опасаются, что преступники получат доступ к новым патогенам.
Как поясняет resultsense.com, сегодня десятки фирм «печатают» по заказу клиентов персонализированные генетические последовательности. Не все такие фирмы проверяют своих заказчиков.
В этой связи есть опасения, что большие языковые модели помогут злоумышленникам не только создать опасные патогены, но и подскажут, в какой организации не будут задавать клиенту лишних вопросов. В 2017 году канадские исследователи реконструировали ныне исчезнувший вирус оспы лошадей, заказав необходимый генетический материал по почте за 100 тысяч долларов. Сегодня подобные услуги обходятся гораздо дешевле.
Заметим по случаю, деятельность биолабораторий США за пределами Америки, в частности, на Украине вызывает серьёзную озабоченность министерства обороны России.
Напомним также, что использование ИИ в военных целях почему-то не пугает некоторых разработчиков. Французский Mistral AI, например, воспротивился призыву Папы «разоружить ИИ».
1 доллар = 73,34 рубля
См. также: Папа римский опубликовал энциклику об искусственном интеллекте – будут ли последствия
