Крупнейшие игроки на рынке искусственного интеллекта, несмотря на острую конкуренцию, достигли консенсуса в вопросе безопасности. Руководители ведущих технологических корпораций обратились к законодателям с призывом ограничить возможности использования ИИ для разработки биологического оружия.
Меры по предотвращению угроз
В опубликованном на этой неделе открытом письме лидеры отрасли подчеркнули необходимость усиления контроля над синтетическими последовательностями ДНК. Представители индустрии предлагают обязать компании, занимающиеся производством синтетической ДНК и соответствующего оборудования, проводить тщательную проверку заказов и верификацию клиентов перед отправкой биоматериалов.
Под обращением поставили подписи руководители и ведущие эксперты крупнейших организаций, в числе которых OpenAI, Anthropic, Meta*, Microsoft AI и Google DeepMind. Авторы инициативы настаивают на внедрении строгих правовых норм, которые позволят отслеживать потенциально опасные синтетические компоненты на государственном уровне.
Искусственный интеллект как фактор риска
В документе отмечается, что стремительное развитие технологий значительно повышает уровень биологических угроз. Современные системы ИИ способны демонстрировать знания в области сложных лабораторных процедур на уровне вирусологов с ученой степенью, превосходя возможности узкопрофильных специалистов.
- Снижение барьеров для доступа к опасным знаниям: развитие ИИ стирает исторически сложившиеся сложности, с которыми сталкивались злоумышленники при попытках создать биологическое оружие.
- Необходимость экстренного регулирования: эксперты подчеркивают, что прогресс в области ИИ опережает текущие механизмы защиты, что требует немедленного вмешательства законодателей.
- Консолидация отрасли: редкий пример согласия между конкурирующими компаниями и экспертами в области национальной безопасности демонстрирует серьезность сложившейся ситуации.
По мнению составителей письма, законодатели должны проявить решительность и оперативно внедрить защитные барьеры, чтобы предотвратить использование высоких технологий в деструктивных целях.
* — деятельность компании запрещена на территории РФ