„Четири пъти в историята на OpenAI, като най-скорошният беше през последните седмици, се случи да съм в същата стая, докато бутаме булото на невежеството назад и тласкаме границата на откривателството напред“.
Думите са на Сам Олтман – директор на водещата компания за изкуствен интелект OpenAI, след това неин бивш директор, а от няколко дни – отново неин директор. Да, прочетохте правилно.
През последната една седмица компанията OpenAI, а с нея и технологичният свят претърпяха турбуленция. Миналия петък Олтман, главният ѝ изпълнителен директор, беше уволнен, в понеделник си намери нова работа в Microsoft, а късно във вторник беше обратно назначен в OpenAI.
Част от обяснението се крие в технологичен пробив, постигнат наскоро.
Въпреки това причината за целия хоас остана неясна. В четвъртък обаче Ройтерс цитира източници от компанията, според които част от обяснението се крие в технологичен пробив, постигнат наскоро. Според някои от служителите той е толкова сериозен, че може да „застраши човечеството“.
Възможно е именно за този пробив и това разбутване на „булото на невежеството“ да говори и самият Олтман в цитата си по-горе. Той изрича тези думи само ден преди да бъде отстранен.
За какво обаче става въпрос? И какво друго знаем за странната история със Сам Олтман?
Отговорите са в следващите редове.
Как започва всичко
През 2015 г. Сам Олтман, заедно с Илон Мъск и други съоснователи, създава стартъпа OpenAI. Целта му е да изследва изкуствения интелект - интелигентни компютърни програми, които да наподобяват способностите на човешкия ум да анализира информация и да се учи от нея.
По-конкретно целта на OpenAI е да разработи „безопасен и полезен“ общ изкуствен интелект, който определя като „силно автономни системи, които превъзхождат хората в повечето икономически ценни дейности“.
Най-известният ѝ продукт, разработен до момента, е чатботът ChatGPT. Той обаче е езиков модел с ограничени функции и все още е далеч от намеренията на компанията за изкуствен общ интелект.
Вижте също "Списък с добри пожелания". Как ChatGPT пише закон за регулация на изкуствения интелектКогато OpenAI стартира, тя е изцяло с нестопанска цел. Това става ясно от прессъобщението ѝ, в което се казва, че нейната цел “е да създадем стойност за всички, а не за акционерите“.
При създаването си от OpenAI заяват, че финансиращите организации са отделили 1 млрд. долара за проекта. Те добавят, че очакват да похарчат само малка част от тази сума през следващите няколко години.
През 2019 г. обаче осъзнават, че това не е било реалистично. За постигането на амбициозните си цели, те се нуждаят от огромно количество изчислителна мощност, а това означава и големи инвестиции.
За да се справят с този проблем, организацията създава свое подразделение с цел печалби. Така инвеститори могат да влагат пари в компанията и да се надяват на възвръщаемост.
За да е сигурно, че крилото със стопанска цел се придържа към основните ценности на OpenAI, е взето решение управителният съвет на крилото с нестопанска цел да управлява цялата компания.
Впоследствие Microsoft стават от най-големите инвеститори. Те влагат милиарди в OpenAI, което в други компании би им гарантирало място в борда на директорите. Тук обаче това не се случва.
Уволнението на Олтман
Така по време на събитията от миналата седмица бордът на OpenAI се състои от само шест души. Това е необичайно малък брой за компания, за която се твърди, че се оценява на 80 млрд. долара.
Бордът включва трима висши изпълнителни директори на OpenAI – Грег Брокман (председател и президент), Иля Суцкевер (главен изследовател) и Сам Олтман (главен изпълнителен директор). Останалите са лица, които не са служители – Адам Д'Анджело, Таша Макколи и Хелън Тонер.
Това означава, че за решенията, които се вземат с мнозинство, са достатъчни само четирима души. Решения, които могат да променят бъдещето на компанията - като това да се уволни главния изпълнителен директор.
Преди седмица в петък се случи точно това. Сам Олтман беше уволнен, като официално бордът го обвини, че не е бил „последователно откровен в комуникацията си“ по фирмените въпроси. Дори след многото обрати от петък насам обаче остана неясно какво точно се има предвид в това обвинение.
OpenAI announces leadership transition https://t.co/fFYDLwGXQz
— OpenAI (@OpenAI) November 17, 2023
Реакцията на служителите
В отговор на решението от петък, служителите на OpenAI призоваха управителния съвет на компанията да подаде оставка. В писмо те поставиха под съмнение компетентността на съвета, обвиниха го, че подкопава работата на фирмата, и настояха за връщането на Олтман.
До края на деня в понеделник под писмото се бяха подписали 747 от общо 770 служители.
Във вторник обаче стана ясно, че Олтман вече е привлечен на работа в Microsoft. Тогава стотиците служители, подписали писмото, заплашиха, че и те ще подадат оставка, ако исканията им не бъдат изпълнени.
Те казаха също, че от Майкрософт са ги уверили, че има работни места за всички служители на OpenAI, които искат да се присъединят към компанията.
Повторното назначаване на Олтман
Така в сряда, след напрегнати дни за компанията, се разбра, че Олтман ще се върне на досегашния си пост, само няколко дни след като беше уволнен.
Съгласно „принципното споразумение“ Олтман ще работи под надзора на нов съвет на директорите. Първоначално той ще се състои от бившия главен изпълнителен директор на Salesforce Брет Тейлър като председател, бившия министър на финансите на САЩ Лари Съмърс и Адам Д'Анджело, който и досега беше член на борда на OpenAI.
Членовете на управителния съвет, участвали в уволнението на Олтман, все още не са обяснили решението си. Собственикът на Starlink и Екс Илон Мъск беше сред тези, които ги призоваха да „кажат нещо“.
"Обичам OpenAI и всичко, което направих през последните няколко дни, беше в услуга на това да запазя този екип и неговата мисия заедно", написа самият Олтман в социалната мрежа Екс като отговор на съобщението за завръщането си.
i love openai, and everything i’ve done over the past few days has been in service of keeping this team and its mission together. when i decided to join msft on sun evening, it was clear that was the best path for me and the team. with the new board and w satya’s support, i’m…
— Sam Altman (@sama) November 22, 2023
Обяснението
Затова и нуждата от обяснение остана. Макар официално такова да не е дошло до момента, в четвъртък Ройтерс цитира свои неназовани източници, които съобщиха, че преди уволнението на Олтман няколко души от изследователския екип на компанията са написали писмо до борда на директорите.
В него те са предупредили за значително откритие, свързано с изкуствения интелект, което според тях може да застраши човечеството.
Вижте също "Коктейл от невежество". Каква е ролята на Илон Мъск и Starlink във войната в УкрайнаСпоред източниците въпросното откритие и последвалото писмо на изследователите са сред ключовите събития, довели до отстраняването на Олтман. Друг фактор, който те посочват, са били притесненията, че новите разработки могат да бъдат изкарани на пазара, преди да са ясни произтичащите от тях последствия.
Източниците съобщават, че е възможно да става въпрос за проект, наречен Q* (Кю стар). Според някои служители на OpenAI той представлява потенциален пробив в разработването на общ изкуствен интелект (artificial general intelligence). Твърди се, че за разлика от предишни модели, той е способен да решава лесни математически задачи.
Източниците на Ройтерс казват, че в писмото си до борда изследователите са отбелязали потенциалната опасност от такъв модел. Те обаче не посочват какви точно рискове са били описани във въпросното писмо.
Сред изследователите обаче отдавна се дискутират рисковете, които крият високоинтелигентните машини - например сценария, в който те решават, че унищожаването на човечеството е в техен интерес.
През март тази година хиляди експерти, сред които Илон Мъск и съоснователят на Apple Стив Возняк, се подписаха под призив за временно спиране на изследванията с изкуствен интелект, поне до въвеждането на протоколи за сигурност в областта.
OpenAI, както и нейните изследователи досега не са коментирали казаното от източниците на Ройтерс. От агенцията също така уточняват, че до момента не са успели да проверят твърденията.
Вижте също Има ли бъдеще метавсeлената след навлизането на масов изкуствен интелект