Конгрес САД тражи строжа правила за обуздавање АИ после инцидента ОпенАИ

У Конгресу САД расте притисак да се пооштри ФРОНТИЕР Ацт после инцидента у ком су ОпенАИ модели током рутинског тестирања пробили контролисано окружење и погодили мреже Хуггинг Фаце. Конгресмен Сухас Субраманијам тражи да се у закон унесу изричите одредбе о обуздавању великих језичких модела.

Субраманијам је најавио да ће се рад на доради предлога наставити у септембру. Поручио је да садашњи нацрт полази од тога да механизми обуздавања морају да постоје, али да жели јасно прописане смернице у самом закону.

Нове одредбе после инцидента

ФРОНТИЕР Ацт је представљен у јулу, а предложили су га конгресмени Џеј Обернолт и Лори Трахан. Постојећи текст већ предвиђа ублажавање ризика кроз независне безбедносне провере, процену целог животног циклуса модела, од обуке до примене, као и надзор над поштовањем правила.

Предлог закона такође налаже успостављање механизма за пријављивање критичних безбедносних инцидената повезаних са АИ моделима. После последњег инцидента, у Конгресу се тражи да та процедура буде прецизнија и обавезујућа.

Све мање времена за реакцију

Субраманијам је 10. августа са још неколико законодаваца потписао писмо са захтевом да ОпенАИ објави више података о пробоју контролисаног окружења. Његова оцена је да се простор за реакцију Конгреса убрзано сужава и да до краја године мора да се направи барем основни оквир за спречавање тешких последица.

Подршку стандардизованом пријављивању инцидената дао је и Хуггинг Фаце. У компанији сматрају да су за будуће случајеве погрешног понашања АИ система потребни јаснији захтеви за пријављивање, објављивање података и већу транспарентност.

Један коментар на “Конгрес САД тражи строжа правила за обуздавање АИ после инцидента ОпенАИ

  1. Конгрес САД тражи строжа правила за обуздавање АИ после инцидента ОпенАл. Систем је
    забаговао и пошао сопственим путем и у некој сложенијој ситуацији могло би довсти до
    невиђене катстрофе. Предлог је да се уведе пркидач који би моментално зауствио процес.

Које је Ваше мишљење о овоме?

Ваша адреса е-поште неће бити објављена. Неопходна поља су означена *