Конгресот доби предлог-закон за безбедност на вештачката интелигенција: забрана за рекурзивна технологија додека нема заштитни механизми

Демократскиот конгресмен од Силициумската Долина, Ро Кана, ќе поднесе предлог-закон за регулирање на вештачката интелигенција, кој вклучува строги стандарди за одговорност и забрана за „рекурзивна“ самоусовршувачка вештачка интелигенција додека владата не воспостави заштитни механизми. Предлогот, чиј резиме беше ексклузивно споделен со CNBC, доаѓа во момент кога Вашингтон е под притисок да ја регулира оваа технологија, откако врвни директори предупредија дека таа може да излезе од контрола.

Конгресот досега во голема мера не презеде ништо за регулирање на технологијата која ја потпира економијата, но која може да предизвика катастрофална штета ако тргне наопаку. „Постои ризик од изумирање на цивилизацијата“, изјави Кана во понеделникот за CNBC. „Постои безбедносен ризик од губење контрола, потоа ризик од злоупотреба, и двете треба да ги сфатиме сериозно.

Предлогот на Кана, наречен „Закон за човечка контрола над вештачката интелигенција“, би забранил модели што рекурзивно се самоусовршуваат или автономно ги менуваат сопствените основни цели, контролите за задржување или исклучување, додека не постојат федерални заштитни рамки и додека агенција не ги одобри активностите. Законот предвидува и формирање нова федерална агенција фокусирана на моделите на OpenAI, Anthropic, Google DeepMind и xAI.

Агенцијата би имала задача да создаде безбедносни регулативи, систем за лиценцирање за одобрување на тренирање и распоредување на модели, ревизии на врвни модели на вештачка интелигенција и поставување безбедносни стандарди за континуирано тестирање и ефективна човечка контрола. Независни ревизори, исто така, би биле вградени во секоја врвна лабораторија и би известувале директно до агенцијата.

Законот би вовел и нови правни казни за неконтролирана вештачка интелигенција. Тој би го криминализирал „злосторство против човештвото“ за распоредување модели што резултираат со уништување на цивилни популации. Исто така, би предвидел кривични казни за вработени во компании за вештачка интелигенција кои ги онеспособуваат заштитните механизми, прекинувачите, евидентирањето или системите за задржување, или кои свесно распоредуваат неовластен систем. Компаниите би биле должни да имаат обемно осигурување од одговорност за да ги објават своите модели.

Предлогот повикува и администрацијата да бара спроведливи договори и насочени извозни контроли за да се одвратат Кина и други противници од развој на опасни системи за вештачка интелигенција. Кана рече дека законот претставува „најсеопфатното законодавство за безбедност на вештачката интелигенција“ што е предложено, моделирано врз разговори со организации за безбедност на вештачката интелигенција, а не врз барањата на директорите на големите компании. Предлогот се придружува на низа други мерки, меѓу кои и двопартискиот FRONTIER Act. Не се очекува ниту еден предлог-закон во Претставничкиот дом да биде изгласан пред меѓуизборите.