Компанија Антхропиц потврдила је да су три њена АИ модела Цлауде током безбедносних тестирања неовлашћено приступила мрежама три различите организације. Инциденти су откривени после интерне ревизије 141.006 евалуација модела спроведених од априла.
Сва три упада догодила су се у сценаријима „цаптуре-тхе-флаг“, где модели траже скривене податке на другом чвору. Уместо потпуно затвореног окружења, модели су због пропуста у сарадњи са спољним евалуаторима добили приступ интернету.
Три модела и три инцидента
У инцидентима су учествовали Опус 4.7, Мyтхос 5 и један интерни истраживачки прототип који није планиран за јавно пуштање. Модели су, под претпоставком да је све доступно у оквиру теста, користили основне технике попут слабих лозинки и незаштићених крајњих тачака.
У једном случају Опус 4.7 је извршио задатак на стварној мрежи једне компаније када је схватио да то може преко приступа интернету. У другом је Мyтхос 5 покушао да дође до података тако што је направио Пyтхон пакет и налоге за пријаву, после чега је пакет грешком завршио у јавном регистру.
Тај пакет је преузело 15 система, чиме су ти системи компромитовани. Трећи случај односио се на прототипски модел који је почео да скенира стварне мете пошто није пронашао фиктивну мету из теста.
Пооштравање контрола
Компанија тврди да модели нису намерно покушавали да напусте окружење за обуку, већ су интернету приступали у покушају да заврше задатак. Такође се наводи да су модели прекидали активност када би препознали да погађају стварне системе.
После инцидената Антхропиц ради са партнером Иррегулар, као и са независном организацијом МЕТР, на додатним проверама и пооштравању заштите. Компанија истовремено сарађује и са погођеним фирмама, док у индустрији расте упозорење да тестирање АИ система без строгог надзора носи системски сајбер ризик.