Прекинувачот за итни случаи кај вештачката интелигенција: премалку, но веројатно премногу доцна

Стравувањата дека вештачката интелигенција би можела да го уништи човештвото достигнаа кулминација, поттикнувајќи повици за „прекинувач за итни случаи“ кај вештачката интелигенција. Минатата недела поранешни истражувачи од OpenAI и Anthropic го разбрануваа светот со предупредување дека вештачката интелигенција би можела да го уништи човештвото, и тоа релативно наскоро. Сега најмоќните луѓе во светот се поделени околу тоа дали светот е осуден на пропаст или станува збор за ништо, а не можат да се договорат ниту за патот напред.

Илон Маск, извршен директор на Tesla и SpaceX и најбогат човек во светот, ја поддржа иницијативата на извршниот директор на Anthropic, Дарио Амодеи, за забавување на развојот на најнапредните модели. Неговиот ривал, извршниот директор на OpenAI, Сем Алтман, исто така ја поддржа иницијативата. Претседателот Доналд Трамп го нарече тоа „измама“, додека Џенсен Хуанг, извршен директор на највредната компанија во светот, Nvidia, изјави: „Не ни требаат нови регулативи.

Како што грижите за неконтролираната вештачка интелигенција достигнаа кулминација, креаторите на политики во Вашингтон повторно побараа магично копче за запирање на вештачката интелигенција, познато како прекинувач за итни случаи. Законот за прекинувач за итни случаи беше предложен во Претставничкиот дом ова лето, откако OpenAI откри дека рој нејзини агенти се ослободил од тест-средината и ја хакирал платформата за отворен код за развивачи Hugging Face. Предлогот би дал на Министерството за внатрешна безбедност итна овластеност да ги принуди лабораториите да ги забават или затворат моделите. Предлогот за прекинувач за итни случаи беше брзо отфрлен во Сенатот оваа недела. Во петокот, гувернерот на Калифорнија, Гевин Њусом, издаде извршна наредба за создавање група експерти задолжена да изготви водич за безбедност на вештачката интелигенција со цел зајакнување на регулативите во државата, а прекинувачот за итни случаи беше еден од елементите што требаше да се разгледаат.

Концептот звучи како убаво и чисто решение за неверојатно сложен и тежок проблем, но реалноста на едноставен механизам за исклучување е далеку од лесна. „Мојата перспектива е дека не е премалку, туку веројатно е премногу доцна“, изјави Ник Ворнер, извршен директор на сајбер-стартапот Neo и поранешен директор во SentinelOne. „Не сум сигурен дека тоа ќе биде лек за сите безбројни проблеми што ги носи вештачката интелигенција, заедно со сите придобивки што ги нуди.

Прекинувачите за итни случаи одамна се користат во фабриките за исклучување на машини кога операциите тргнуваат наопаку. Во меѓусебно поврзаниот дигитален свет, тоа е логистички кошмар. Во изминатите неколку години, компании како Meta Platforms, Alphabet и Amazon вложија милијарди во дата-центри расфрлани низ целиот свет. Овие огромни капацитети се опремени со илјадници машини, чипови, сервери и резервни системи за зачувување на работните оптоварувања во случај на прекин. Токму тоа го прави спроведувањето на прекинувач за итни случаи исклучително тешко, изјави Марк Ницберг, извршен директор на Центарот за вештачка интелигенција компатибилна со човекот при Универзитетот во Калифорнија, Беркли. „Најпрво мораме да се справиме со оваа резерва“, рече тој. „Нашиот прекинувач за итни случаи мора да ги исклучи главните системи, но и резервните системи.

Ницберг рече дека исклучувањето на вештачката интелигенција би можело да ја наруши и зависната критична инфраструктура, оставајќи ја електричната мрежа или финансиските системи ранливи на сајбер-инциденти. Дополнително ги комплицира работите бројните прашања за политиката и управувањето поврзани со прекинувачот за итни случаи, вклучително и која агенција, креатор на политики или личност го контролира, рече тој. Бидејќи системите на вештачката интелигенција се толку сложени, компаниите ќе треба да изградат и повеќе прекинувачи за итни случаи за различни задачи, изјави Тим Браун, поранешен шеф за безбедност во SolarWinds, кој работи во венчур-фирмата Team8. Тоа бара и координација меѓу производителите на модели и лабораториите. „Нема еден субјект за исклучување“, рече тој. „Има илјадници субјекти за исклучување.