Надела бара „итно сопирање“ за вештачката интелигенција под човечка контрола
Автор: Редакција на FinPortal.mk ·
Извршниот директор на „Мајкрософт“, Сатја Надела, повика напредните системи на вештачка интелигенција да бидат изградени со механизми за задржување, независна контрола и „итно сопирање“ што ќе им овозможи на овластени лица да го паузираат или целосно да го исклучат моделот додека ја извршува задачата. Во објава на социјалната платформа X, Надела напиша дека недетерминистичките модели треба да бидат опкружени со цврст, детерминистички системски дизајн, човечка контрола и сигурни оперативни процедури, како и дека треба да се воспостават индустриски стандарди таму каде што постојните се недоволни. Според него, третирањето на најнапредните затворени и отворени модели како внатрешни ризици е начин да се изгради таков систем. Надела ги изнесе овие ставови во момент кога водечки технолошки директори и истражувачи предупредуваат на недоволните безбедносни протоколи за вештачката интелигенција и тврдат дека технологијата се развива пребрзо. Меѓу нив се коосновачот на „Мајкрософт“, Бил Гејтс, извршниот директор на „Антропик“, Дарио Амодеи, извршниот директор на OpenAI, Сем Алтман, и извршниот директор на SpaceX, Илон Маск. Минатиот месец еден истражувач за вештачка интелигенција ја напушти „Антропик“ и ја обвини компанијата, како и нејзиниот главен конкурент OpenAI, дека „се коцкаат со нашите животи“. Истиот ден, раководител за усогласување во „Антропик“, задолжен за безбедност на вештачката интелигенција, изјави дека постои поголема од 10 отсто веројатност технологијата да ги „убие сите луѓе“ во следната деценија. Американскиот претседател Доналд Трамп, од друга страна, постојано ги отфрла ризиците од исчезнување поради вештачката интелигенција и наместо тоа нагласува дека индустријата мора да остане пред Кина. Тој неодамна претстави нова „AI Force“, предводена од директорот за национално разузнавање Џеј Клејтон, која треба да помогне во олеснување на индустријата и отстранување на лошите актери. „Најдоверливиот систем на суперинтелигенција нема да биде оној на кој најмногу