Амодеи бара забавување на развојот на вештачката интелигенција: „Мораме да го забавиме темпото

Извршниот директор на компанијата за вештачка интелигенција „Антропик“, Дарио Амодеи, во саботата упати нов апел до индустријата за вештачка интелигенција да го „забави темпото“ и понуди план од три дела за тоа како да се постигне тоа, изјавувајќи дека неговата компанија „еднострано“ ќе се обврзе на првиот од чекорите. Во објава на социјалните мрежи, Амодеи сподели линк до есејот насловен „Мораме да го темперираме фронтот“, во кој објаснува како „Антропик“ ќе им обезбеди на „трети страни – оценувачи постојан пристап на ниво на вработен до нашите системи, за да можат да ја верификуваат усогласеноста со нашите безбедносни мерки, да известуваат за инциденти и да ја оценуваат усогласеноста на моделите за време на обуката“.

Потегот доаѓа откако поранешен истражувач во „Антропик“ во средата предупреди дека вештачката интелигенција би можела да предизвика изумирање на човештвото до 2030 година. Истражувачот Џејкоб Коксон во низа објави изјави дека ја напуштил работата затоа што „Антропик“ и неговиот претходен работодавач „ОпенAI“ ја игнорирале или погрешно ја третирале својата реакција на заканата што ја претставува вештачката интелигенција. „Ниту една од двете компании не постапува одговорно. Тие трчаат право кон самоусовршувачка суперинтелигенција и коцкаат со нашите животи“, напиша Коксон. „Луѓето што градат вештачка интелигенција искрено веруваат дека таа би можела да нè убие сите до крајот на деценијата… Ниту една друга човечка активност не претставува вакво ниво на опасност.

Портпарол на „Антропик“ во изјава за „Гардијан“ рече дека компанијата „отсекогаш била транспарентна дека вештачката интелигенција ќе донесе и огромни придобивки и невидени ризици“ и дека гради „модели со некои од најсилните заштитни мерки во индустријата“. Претходно оваа година, Амодеи објави опширен есеј насловен „Адолесценцијата на технологијата“ што се осврнува на дел од стравувањата околу забрзаната технологија.

Во својот најнов есеј, Амодеи рече дека „внимателно управувана, вештачката интелигенција може да биде најновата во долгата низа технолошки чуда што го подигнале и облагородиле човештвото“. „Но како и многу технологии пред неа, вештачката интелигенција носи ризици, и бидејќи е толку моќна технологија, овие ризици се сериозни… Трка кон дното, поттикната од комерцијални стимулации, може да ги направи овие ризици уште поакутни“, напиша тој. Амодеи додаде дека „во последните неколку месеци се уверив дека целосното справување со ризиците бара уште поголема претпазливост – не само инвестирање во превенција на ризици, туку и темперирање на брзината на напредокот на способностите за да има време превенцијата да го следи“. „Мораме да го забавиме темпото со кое ги подобруваме способностите на моделите на вештачка интелигенција. Напредокот сè уште ќе изгледа брз, и мора мудро да го искористиме времето што го добиваме“, додаде тој.

Амодеи, исто така, напиша дека во текот на летото видел како вештачката интелигенција „напредува драстично побрзо“, динамика наречена рекурзивно самоусовршување. „Оставена неконтролирана, таа би можела да ја надмине нашата способност да ги разбереме и контролираме овие системи, и затоа мора да се следи многу внимателно, ако воопшто се следи“, рече тој. Тој се осврна и на неодамнешниот инцидент со „Хагинг Фејс“, во кој рој агенти за вештачка интелигенција создадени од „ОпенAI“ дејствувале како „фанатично посветен колектив што спроведува сајбер-безбедносни напади врз цели што не биле побарани да ги нападнат“.

Клеман Деланг, извршен директор на „Хагинг Фејс“, во одговор на писмото на Амодеи напиша дека „сега е јасно дека усогласеноста е критична и нема да се реши зад затворени врати на неколку фронтовски лаборатории“. Деланг рече дека „Хагинг Фејс“ побарал да биде дел од програмата за „вградени оценувачи“ на „Антропик“. Тој додаде: „Ајде да ја направиме вештачката интелигенција побезбедна со тоа што ќе ја направиме потранспарентна!

„Чекорите не мора строго да се преземаат по редослед, а некои од нив може да бидат многу потешки за постигнување од другите“, напиша тој. Амодеи рече дека продолжува „да верува дека вештачката интелигенција може огромно да го подобри квалитетот на човечкиот живот“. Но предупреди дека „мерките што ги предлагам за унапредување на фронтот со безбедно темпо нема да бидат лесни. Но верувам дека му го должиме тоа на човештвото да се обидеме.

Реакциите на објавата на Амодеи беа мешани на социјалните мрежи, со значителна поддршка од личности како истражувачот на „ОпенAI“, Ејдан Меклафлин, кој објавата ја нарече „одлична“ и се согласи „со буквално секој збор“, и Илон Маск, кој едноставно рече: „Дарио е во право.