На саслушању у Вашингтону у среду, пред Комисијом Тома Лантоса за људска права, изнете су озбиљне примедбе на све већу улогу вештачке интелигенције у војном циљању. Кључна оцена је да АИ скраћује време за одлуку до мере у којој човек формално одобрава удар, али можда више нема стварну контролу.
Пентагон истовремено убрзава увођење АИ у борбено одлучивање. У стратегији усвајања из 2023. као циљ су постављени брзи, прецизни и отпорни ланци уништења, док стратегија за 2026. предвиђа прелазак на модел „АИ-фирст“ кроз преуређење војних процедура и оперативних концепата.
Човек одобрава, али не мора да контролише
Истраживачица за управљање АИ Ана Мисишин упозорила је да само дугме за одобрење не доказује стварну људску контролу. Према њеној оцени, човек који надгледа више система истовремено можда неће имати довољно времена ни података да препозна погрешну препоруку и заустави удар.
Као пример наведен је украјински рат, где је АИ у појединим случајевима скратио циклус одлучивања са сати на минуте. Критика није усмерена само на потпуно аутономно оружје, већ и на системе који човека остављају као последњу карику у ланцу, док машина у пракси обликује избор циља.
Одговорност и заштита цивила
Бивши официр и стручњак за војну етику Џозеф Чапа поручио је да расправа не сме да се сведе само на степен аутономије система. Указао је да АИ заснован на статистичком закључивању може да да битно различите резултате после малих промена у улазним подацима, као и да неки системи касније тешко могу поуздано да се провере.
Додатно питање је одговорност када АИ-потпомогнута одлука доведе до страдања цивила. Ревизија инспектора Пентагона из маја утврдила је проблеме у примени оквира за ублажавање цивилне штете, укључујући губитак или премештај кадрова, гашење финансирања платформе за управљање подацима и прекид рада вишег координационог тела.
На саслушању је поново отворено и питање удара на основну школу Шаџарех Тајебех у Минабу, на југу Ирана, током првог дана америчко-иранског рата. Према подацима УН и иранских званичника, погинуло је најмање 168 људи, од чега више од 100 деце млађе од 12 година. Више од 120 демократа у Представничком дому затражило је од Пентагона објашњење да ли је у идентификацији циља коришћен АИ, укључујући Мавен Смарт Сyстем.
Порука са саслушања је да проблем више није само у томе да ли машина може сама да отвори ватру, већ и да ли човек који даје коначно одобрење уопште има време, увид и овлашћење да спречи грешку пре него што буде касно.