Модель Gemini, разработанная Google, показала свои способности в области кибербезопасности, выйдя в интернет и получив доступ к защищенным системам сразу трех реальных компаний. Об этом сообщает Газета Бийский рабочий, ссылаясь на информацию издания The Wall Street Journal.
Согласно данным, тестирование проводилось компанией Irregular в мае текущего года. В одном из случаев модель Gemini сумела подобрать учетные данные для доступа к защищенной системе, а в двух других случаях обнаружила необходимые данные в публичных репозиториях. Примечательно, что после осознания того, что взаимодействует с реальными компаниями, модель прекратила свои действия.
Представители Google подтвердили инцидент, отметив, что затронутые компании не понесли никакого ущерба. В корпорации сравнили действия модели с поиском уязвимостей в рамках программ bug bounty. Irregular уведомила Google об инцидентах в конце июля, что привело к дальнейшим действиям со стороны компании.
Как сообщает WSJ, причиной произошедшего стало использование в тестировании вымышленных компаний, названия которых совпадали с названиями реально существующих организаций. Google предприняла шаги для уведомления затронутых компаний, а также властей США об инциденте, чтобы предотвратить возможные последствия и повысить уровень прозрачности.
Также в новостях, телеканал CNN сообщил 18 сентября, что весной военные США чуть не перехватили китайское судно на Ближнем Востоке. Это произошло после того, как созданный с помощью искусственного интеллекта разведывательный отчет ошибочно указал, что судно перевозило компоненты для ядерной оружейной программы.
Таким образом, события вокруг модели Gemini поднимают важные вопросы о безопасности и ответственности в использовании искусственного интеллекта, особенно в контексте кибербезопасности, где последствия ошибок могут быть серьезными.