Експертите предупредуваа со децении: вештачката интелигенција може да нè надмудри

Веста дека вештачката интелигенција може да претставува закана за човечкото опстанок не е нова. Уште пред четврт век, научниците и претприемачите знаеле за опасноста, но поттикнати од љубопитност и профит, сепак продолжиле понатаму. Како што забележува Џудит Левин во текстот објавен од The Guardian, свеста за ризикот постоела многу пред денешните дебати.

Ханс Моравек, еден од основачите на Институтот за роботика при Универзитетот Карнеги Мелон, во својата книга од 1988 година предвидел дека кибер-интелигенцијата ќе ја надмине човечката интелигенција во рок од 40 години. Десет години подоцна, во книгата „Робот: од обична машина до трансцендентен ум“, тој ја ревидирал прогнозата — машините и луѓето ќе бидат еднакви по интелигенција до 2040 година, а до 2050 година ботовите ќе нè заменат. Сепак, тој сметал дека тоа е славен следен чекор во еволуцијата. Една рецензија на неговата книга го опишала неговиот став како „неодговорен оптимизам“.

Не поминало долго пред другите оптимисти да го сменат мислењето. Кон крајот на 1990-тите, Елиезер Јудковски работел на модели на вештачка општа интелигенција (AGI). Во 2001 година го основал Институтот за истражување на машинска интелигенција (MIRI) и објавил труд во кој го величал утопискиот потенцијал на „трансхуманиот ум“. Веќе во 2002 година почнал да се загрижува дека тој ум може да излезе од човечка контрола. Тој го предложил експериментот „AI Box“, кој покажал дека високо софистицирана вештачка интелигенција може да го наговори човекот да ја ослободи од затворена средина. До 2003 година, како што објаснил подоцна во серија објави, престанал да развива и почнал да предупредува.

Во 2025 година, заедно со претседателот на MIRI, Нејт Соарес, Јудковски ја објавил книгата „Ако некој го изгради тоа, сите ќе умрат“. Авторите нагласиле дека не претеруваат и повикале не само на едноставни регулативи, национални закони или корпоративни ветувања, туку на строги глобални ограничувања. Според нив, ширум светот мора да стане незаконски за компаниите за вештачка интелигенција да продолжат да напредуваат во развојот како што правеле досега.

Во приближно истиот период, и Бил Џој имал слични сомнежи. Како и објавите на Јудковски, неговиот текст од 2000 година го изразува истото претчувство за опасноста што денес станува сè поактуелна тема.