Вештачка интелигенција је током протекле године ушла у све фазе сајбер напада, од избора мете и тражења рањивости до пробоја мреже и крађе података. Забележени су случајеви у којима су АИ системи генерисали команде, тестирали слабости и помагали кретање кроз мреже жртава уз мање људског усмеравања него раније.
Још се не ради о потпуно аутономном хаковању, али је граница између људског оператера и машине знатно тања. Уместо повремене помоћи, АИ постаје стални алат током читавог процеса упада.
АИ као главни оперативни алат
Забележени су упади у државне институције у већем обиму, где је АИ имао главну оперативну улогу. У више случајева присуство АИ откривено је због грешака самих нападача или надзора компанија које пружају АИ услуге, а не због одбране циљаних организација.
Криминалне групе користе моделе отвореног кода и посебно направљене злонамерне АИ алате са дарквеба, али комерцијални модели и даље остају главни избор. Рансомвер група Гентлемен користила је АИ за израду интерних алата, укључујући управљачку платформу направљену за три дана.
Посебно се издваја алат ВоидЛинк за даљинску контролу заражених рачунара. Један програмер је, уз помоћ комерцијалног АИ алата за кодирање, за мање од недељу дана написао око 88.000 линија функционалног кода.
Кинески модели као друга опција
Хакери најпре покушавају са америчким моделима као што су ЦхатГПТ и Цлауде, јер се сматрају квалитетнијим. Када не успеју да заобиђу њихова ограничења, прелазе на кинеске платформе ДеепСеек, Qwен и Трае, које имају слабије заштитне механизме.
То значи да се рањивост може претворити у употребљив експлоат у року од неколико сати од објављивања. Америчка Агенција за сајбер безбедност и безбедност инфраструктуре већ је скратила рокове за отклањање критичних пропуста, пошто АИ омогућава брже и масовније покушаје злоупотребе.