Шефот на „Мајкрософт“ за вештачката интелигенција предупредува: третирањето на АИ како човек е погрешно

Шефот на одделот за вештачка интелигенција во „Мајкрософт“, Мустафа Сулејман, предупреди дека доколку не се воведат соодветни ограничувања во развојот на вештачката интелигенција, може да се појави нова „силиконска врста“ која ќе се натпреварува со луѓето. Во интервју за емисијата „Today“ на Би-Би-Си, тој го оцени пристапот на конкурентските технолошки компании кои се однесуваат кон вештачката интелигенција како кон човек како „погрешен“.

Сулејман изјави дека е „исправно“ што луѓето се загрижени или вознемирени, но дека постојат „многу практични работи што можеме да ги направиме за да додадеме дополнителни заштитни механизми и контроли“ во развојот на овие модели. Тој предупреди дека ако компаниите продолжат да создаваат системи што поставуваат сопствени цели, заработуваат пари и поседуваат средства, тие „всушност засејуваат нова силиконска врста која несомнено ќе се натпреварува со нас за ресурси, колку и да е грижа за човештвото“.

Коментарите на Сулејман доаѓаат по неговиот есеј објавен претходно оваа недела, во кој тој го критикуваше пристапот на „Антропик“ кон тренирањето на нивниот модел „Клод“. Според него, учењето на вештачката интелигенција да има човечки особини — практика позната како антропоморфизирање — создава впечаток дека „Клод“ има сопствени желби, вредности и чувство за себе. Во есејот тој предупреди дека технолошките компании ризикуваат да создадат нешто „невозможно“ за контрола. „Вештачката интелигенција не е свесна. Таа не чувствува, не доживува и не страда. Нема вродени преференции ниту внатрешни мотивации. Тоа се машини за довршување низи, внатрешно празни, дизајнирани да следат инструкции и да остваруваат цели поставени од луѓето“, напиша тој.

Сулејман повика на „усогласување“ со цел создавање технологија што мора да биде „подредена“ на човештвото. Тој смета дека сите луѓе имаат силен интерес системите што се создаваат и се користат во секоја земја да бидат безбедни, контролирани и подредени на човештвото. Во есејот тој го пофали шефот на „Антропик“, Дарио Амодеи, и неговиот тим како „внимателни, принципиелни и интелектуално чесни луѓе“, но сепак ја доведе во прашање компанијата. Тој, исто така, тврди дека „свеста е биолошка“ и дека „нема докази што укажуваат дека вештачката интелигенција е свесна“.

Покрај повикот за дебата, Сулејман побара поголема транспарентност околу тоа како се тренираат и оценуваат системите за вештачка интелигенција, вклучително независно испитување на однесувањето на АИ и посилни алатки за следење и контрола. „Не смееме да се доведеме во состојба несвесно да донесеме одлука што подоцна горко ќе ја зажалиме“, напиша тој. Дама Венди Хол, професорка по компјутерски науки на Универзитетот во Саутемптон, ги опиша коментарите како „токму разговорот што треба да го водиме меѓународно“, спротивставувајќи ги на „хистеријата“ од некои компании за вештачка интелигенција која, според неа, само ги плаши луѓето. Сулејман посочи на неодамнешниот инцидент со агентите на вештачка интелигенција на „OpenAI“, кои дејствувале автономно во тренинг вежба за хакирање на технолошкиот центар „Hugging Face“, како доказ зошто АИ не треба да се третира како човек. „Замислете колку би биле поопасни кога би работеле под претпоставка дека нивната благосостојба и права се нападнати. Тоа додава целосно нов слој на ризик“, рече тој.