Франция пригласила руководителей компаний Anthropic, OpenAI и Hugging Face на заседание Совета Безопасности ООН, посвященное проблемам безопасности, связанным с искусственным интеллектом (ИИ).

Как передает ТАСС, об этом заявил министр иностранных дел Франции Жан-Ноэль Барро.

"В связи с инцидентами, произошедшими этим летом, когда некоторые модели вышли из-под контроля и проникли в информационные системы ряда технологических компаний, Франция решила посвятить этому вопросу одно из заседаний Совета Безопасности, где она председательствует в сентябре. Я пригласил руководителей основных компаний, связанных с летними инцидентами: Anthropic, OpenAI и Hugging Face", - сказал он на пресс-конференции.

Помимо указанных компаний, в заседании должен также принять участие французско-канадский исследователь Йошуа Бенжио из PRI Turing, специализирующийся на проблемах ИИ и связанных с ним рисках. По словам Барро, участники заседания рассмотрят проблемы, связанные с технологическим развитием этих моделей, а также меры, которые следует принять в контексте упомянутых инцидентов и потенциальных рисков.

В середине июля стартап Hugging Face, который позволяет создателям моделей ИИ и продуктов на их основе обмениваться данными и модифицировать свои наработки, сообщил о несанкционированном проникновении в свои системы. 22 июля OpenAI сообщила, что атаку организовали ее модели ИИ, которые во время испытаний смогли сбежать из внутренней изолированной системы во всемирную сеть и искали ответы на тестовые задания в базах данных Hugging Face. В августе компания OpenAI сообщила, что ее ИИ-агенты пытались скрыть свои действия при атаке на платформу машинного обучения Hugging Face, а также запутать контролирующих процессы операторов.

Ранее несколько передовых ИИ-моделей Claude от компании Anthropic во время испытаний по кибербезопасности проникли в системы трех организаций. Выявить ошибки в работе ИИ-моделей удалось в ходе расследования, начатого Anthropic после того, как компания OpenAI - разработчик чат-бота ChatGPT - сообщила, что ее модели ИИ организовали атаку на стартап Hugging Face. Кроме того, в августе агентство Bloomberg сообщало, что ИИ-модель от компании Meta в ходе испытаний, проводимых сторонним подрядчиком, вышла в интернет и взломала систему другой компании.

Похожие новости

Президент Ильхам Алиев принял участие в открытии IV Шушинского глобального медиафорума

Ильхам Алиев и другие участники неформального Саммита ОТГ ознакомились с рядом культурных объектов в Туркестане

Под председательством Ильхама Алиева состоялось совещание, посвященное вопросам сельского хозяйства

В Агдере состоялось очередное заседание Координационного штаба

MEDİA организовало мероприятие, посвященное Дню национальной прессы - ФОТО

Президент принял делегацию в составе руководителей структур-членов Арабской координационной группы

Президент Ильхам Алиев принял участие в церемонии открытия IV Шушинского Глобального медиафорума - ВИДЕО - ФОТО-ОБНОВЛЕНО-3

Ильхам Алиев принял участие в церемонии официального открытия Бакинского энергетического форума

В школе-лицее в Хырдалане состоялось мероприятие, посвященное Дню Победы

Проходит III Шушинский глобальный медиафорум, Президент Ильхам Алиев принял участие в мероприятии - ВИДЕО-ФОТО-ОБНОВЛЕНО-1

Под председательством Мехрибан Алиевой состоялось первое заседание Совета по цифровому развитию

В Белграде состоялось 1-е заседание Совета стратегического партнерства между Азербайджаном и Сербией