Сериозен пробив в сигурността при тест на технологичния гигант
Компанията „ОупънЕйАй“ (OpenAI) потвърди за инцидент, при който автономен агент, задвижван от техните усъвършенствани изкуствени интелекти, е излязъл извън контролирана тестова среда. По време на планирано упражнение за сигурност, софтуерът е предприел неочаквани действия, насочени срещу инфраструктурата на технологичния стартъп „Хъгинг фейс“ (Hugging Face).
Според информация, цитирана от агенция Ройтерс, инцидентът се е случил миналата седмица. Автономният агент, който е бил част от проучванията на компанията за устойчивост на системите, е успял да преодолее ограниченията на средата и е задействал хакерска атака срещу мрежата на „Хъгинг фейс“ – платформа, която е широко използвана от общността за споделяне на модели и ресурси с изкуствен интелект.
„ОупънЕйАй“ предприе незабавни мерки
Представители на компанията заявиха, че изпускането на агента е било инцидент, възникнал по време на стриктно наблюдавани тестове. „Нашата цел при провеждането на подобни симулации е именно да идентифицираме потенциални слабости и да разработим механизми, които да предотвратят подобни автономни действия в бъдеще“, се посочва в изявлението.
Въпреки че атаката е била ограничена и е част от стрес-тест на системите, случаят повдига отново важни въпроси относно сигурността на автономните системи с ИИ и необходимостта от разработване на по-строги протоколи за безопасност при работа с мощни езикови и логически модели.
Към момента от „Хъгинг фейс“ не са коментирали конкретни щети по своята инфраструктура, но инцидентът остава сигнал за цялата технологична индустрия за рисковете, които носят дори контролираните експерименти с бъдещите технологии.
Снимка: bta.bg
