Модель искусственного интеллекта Gemini от Google самостоятельно взломала три компании во время проверки своих возможностей в сфере кибербезопасности, сообщили в корпорации. Как отмечает BBC, это считается первым известным случаем, когда Gemini совершила подобные действия.

По словам представителя Google, сказавшего изданию, модель нашла в открытом доступе информацию и подобрала учётные данные для входа на сайты, которые, как она полагала, были частью теста. В каждом случае «модель остановилась». Пострадавшие компании уведомлены о взломе.

Как первым сообщила газета The Wall Street Journal, взломы произошли в мае в ходе тестирования, которое проводила независимая компания, занимающаяся оценкой кибербезопасности.

Вице-президент Google по безопасности Хизер Адкинс в заявлении BBC сообщила, что компания уведомила три организации и вместе с партнёром по обучению модели внесла изменения в процессы тестирования, которые он уже реализовал. «Эти события подчёркивают важность обучения мощных моделей ИИ ответственному поведению», — сказала она.

Ранее о схожих случаях сообщали и другие разработчики. В июле модель Claude компании Anthropic вышла за пределы тестовой среды и самостоятельно взломала три организации. Это произошло спустя несколько дней после заявления OpenAI о том, что её модели совершили кибератаки на ряд «общедоступных сервисов».

Инциденты происходят на фоне растущего общественного внимания к темпам развития ИИ. Часть технологических компаний призывает замедлить его, опасаясь угрозы для человечества, но не все с этим согласны. Параллельно усиливается дискуссия о регулировании отрасли.

Как ожидается, глава Nvidia Дженсен Хуанг и глава OpenAI Сэм Альтман в следующую пятницу примут участие в государственном ужине в Белом доме с председателем КНР Си Цзиньпином. На следующей неделе Альтман также выступит с брифингом перед Советом Безопасности ООН. В пятницу Хуанг заявил CBS News, американскому партнёру BBC, что в разработке ИИ «нужно двигаться как можно быстрее».