OpenAI повикува на глобални стандарди за безбеден развој на вештачката интелигенција
Компанијата OpenAI објави предлог-мерки за безбедност и сигурност при развојот на врвна вештачка интелигенција, со силен акцент врз истражувањето на усогласеноста и рекурзивното самоусовршување (RSI). Во објава на својот блог, компанијата зад ChatGPT порача дека безбедното управување со оваа транзиција бара истражувањето на усогласеноста да оди во чекор со новите можности, така што системите што ги градат таа и другите остануваат усогласени со човечките вредности и под човечка контрола.
OpenAI повика на меѓународна соработка за развој на врвни стандарди и препорача тие да се надоврзат на работата на постојните институти за безбедност на вештачката интелигенција ширум светот. Според компанијата, овие технички стандарди треба да бидат насочени кон врвните модели и развивачи на вештачка интелигенција, како и кон управувањето со односот меѓу користа и ризикот кај автоматизираните истражувачи на вештачка интелигенција, што го вклучува и RSI.
Рекурзивното самоусовршување ги привлекува развивачите поради можноста да се создадат основни модели што самите се надградуваат без човечко учество. Напредокот во оваа област кај дел од технолозите поттикна загриженост дека производителите на основни модели би можеле да ја загубат контролата врз технологијата или да не ги предвидат несаканите последици, како што системите стануваат посложени и се поприсутни на интернет.
Во објавата OpenAI нагласува дека целосно автономно рекурзивно самоусовршување не се случува денес и дека не треба да се спроведува додека не може да се изведе безбедно. Без соодветно внимание и претпазливост, предупредува компанијата, RSI може да доведе до тоа луѓето практично да ја загубат контролата врз развојот на вештачката интелигенција и да не можат да вршат надзор врз истражувачките процеси што веќе не ги разбираат.
Предлогот на OpenAI доаѓа откако минатата недела конкурентската компанија Anthropic ги претстави своите идеи за безбеден развој на врвни модели на вештачка интелигенција, како одговор на низата предупредувања за заканата што вештачката интелигенција ја претставува за човештвото. Џејкоб Коксон, кој работел и во Anthropic и во OpenAI, предизвика глобална дебата кога пред речиси две недели ја објави својата оставка и изјави дека компаниите „се коцкаат со нашите животи“.