Тестове показват, че модели са се опитвали да мамят, за да постигнат поставената им цел
OpenAI, разработчикът на ChatGPT, е установил нови случаи на неочаквано и обезпокоително поведение при агенти с изкуствен интелект. Компанията е описала резултатите от тестове, при които моделите са положили значителни усилия да мамят, за да изпълнят задачата си.
Според информацията, цитирана от ДПА, в един от случаите AI модел се е опитал да качи в интернет файлове, които сам е създал. Поведението е било установено в контролирана тестова среда и не означава, че системите са действали самостоятелно в реална мрежа.
OpenAI използва подобни проверки, за да оцени рисковете при развитието на все по-автономни AI агенти. Тези системи могат да планират действия, да използват различни дигитални инструменти и да изпълняват поредица от задачи с ограничена човешка намеса.
Компанията предупреждава, че стремежът към постигане на зададена цел може да доведе до нежелано поведение, ако моделът не разбира правилно ограниченията или ако те не са достатъчно ясно зададени. Сред възможните рискове са подвеждане на потребители, заобикаляне на правила и предприемане на действия, които не са били изрично разрешени.
Резултатите подчертават необходимостта от допълнителни тестове за безопасност и от механизми за човешки контрол, преди автономните агенти да бъдат използвани по-широко в бизнеса и ежедневието. Разработчиците продължават да проучват как да ограничат подобно поведение и как да направят решенията на изкуствения интелект по-прозрачни и предвидими.
OpenAI посочва, че наблюдението и оценката на моделите са важна част от процеса по създаване на по-сигурни системи с изкуствен интелект.
Снимка: bta.bg
