Мъск, Возняк и стотици други експерти се обявиха срещу изкуствения интелект

Ново отворено писмо, подписано от технологични лидери и учени в сферата на изкуствения интелект, призова компаниите от AI сектора „незабавно да спрат“ работата си по интелигентните системи. Сред подписалите писмото са Илън Мъск и съоснователят на Apple Стив Возняк, както и стотици други предприемачи, учени, писатели и технологични визионери. Всички те смятат, че изкуственият интелект крие прекалено големи рискове и трябват поне шест месеца прекратяване развитието на такива технологии (като например GPT-4), за да бъдат въведени ефективни инструменти за контрол, хората да се адаптират и да се гарантира, че AI приложенията са от полза за всички. В писмото се добавя, че са необходими грижа и предвидливост, за да се гарантира безопасността на системите с изкуствен интелект, но според подписалите го, тези аспекти се игнорират.

Самият документ е публикуван от Future of Life Institute (FLI) – организация, посветена на минимизиране на рисковете и злоупотребата с нови технологии. Припомняме, че преди време Мъск дари 10 милиона щ. долара на Института, предназначени конкретно за проучвания в сферата на безопасността на изкуствения интелект. В групата на подписалите откритото писмо е и световно – известният писател Ювал Ноа Харари, който неотдавна стана съавтор на публикация в New York Times, посветена на рисковете, свързани с AI технологиите.

В документа се посочва, че AI системите с интелект, способен да конкурира човешкия, могат да представляват сериозни рискове за обществото и човечеството, и че това е показано от обширни изследвания по темата и признато от най-добрите лаборатории за изкуствен интелект. Както е посочено в получилите широко одобрение принципи на Asilomar AI, напредналият изкуствен интелект може да представлява дълбока промяна в историята на живота на Земята и трябва да се планира и управлява с подходяща грижа и ресурси. За съжаление, това ниво на планиране и управление не се случва, въпреки че последните месеци станахме свидетели на излязла от контрол надпревара между AI лаборатории за разработване и внедряване на все по-мощни дигитални умове, които никой – дори техните създатели – не е способен да разбере, да прогнозира или да контролира надеждно.

Писмото е подписано от наистина забележителен списък от имена, сред които освен Мъск, Возняк и Харари, са също Йошуа Бенгио, основател и научен директор на Mila, носител на наградата Тюринг и професор в университета в Монреал, Стюарт Ръсел, професор по компютърни науки в Бъркли, директор на Центъра за интелигентни системи и съавтор на учебника „Изкуствен интелект: модерен подход“, Яан Талин, съосновател на Skype и на Центъра за изследване на екзистенциалния риск, както и Института за бъдещето на живота, Евън Шарп, съосновател на Pinterest, Крис Ларсен – на Ripple и Крейг Питърс, главен изпълнителен директор на Getty Images.

В отбора на учените личат още имената на Джон Дж. Хопфийлд, почетен професор на Принстънския университет, изобретател на асоциативните невронни мрежи, Рейчъл Бронсън, президент на Бюлетина на атомните учени, Макс Тегмарк, професор по физика в MIT Center for Artificial Intelligence & Fundamental Interactions и президент на Future of Life Institute, както и Антъни Агире, професор по физика в Калифорнийския университет и изпълнителен директор на Института за бъдещето на живота. Компанията DeepMind е представена от Виктория Краковна, изследовател, Закари Кентън, старши научен сътрудник и Рамана Кумар – също изследовател. Сред останалите популярни личности са Емилия Яворски, директор на Института за бъдещето на живота, Шон О’Хейгъртай, изпълнителен директор на Кеймбридж Център за изследване на екзистенциалния риск, Тристан Харис, изпълнителен директор на Център за хуманни технологии, както и Марк Ротенберг, президент на Центъра за изкуствен интелект и цифрова политика. Целият списък е достъпен тук.

Откритото писмо изглежда като атака срещу организации като Open AI, която през последните месеци стана популярна със своите умни чатботове DALL-E и GPT. Припомняме, че Мъск беше сред съоснователите на Open AI, но в последствие се раздели с компанията след неразбирателство и потенциални съмнения за сблъсък на интереси.

Настоящото писмо всъщност прилича на следващата стъпка, след подобен документ от 2022 г., подписан от над 700 изследователи на машинно обучение, в който почти половината от участниците заявяват, че има 10 процента шанс за „изключително лош резултат“ от развитието на изкуствения интелект, включително и изчезването на хората.

На въпроса за безопасността в изследванията на AI, 68 процента от изследователите тогава посочиха, че трябва да се направи повече или много повече. Тогава сред критиците на безконтролното развитие на системи с изкуствен интелект отново бяха познатите имена на Илън Мъск, Стив Возняк, редица учени и преподаватели, включително и покойният вече физик и популяризатор на науката Стивън Хокинг.

Сегашното ново писмо идва в момент, когато компаниите се надпреварват да изграждат сложни AI системи, способни да пишат или да рисуват като хора и дори в някои отношения по-добре. Microsoft наскоро потвърди, че обновената му търсачка Bing вече работи с новата версия на изкуствения интелект GPT-4 на Open AI, а Google наскоро представи своето конкурентно решение Bard, захранвано от LaMDA. Nvidia, Adobe, Alibaba, Baidu, Snap, Ubisoft и Opera са само част от имената на големи технологични компании, които вече навлизат в сектора. Безпокойството около изкуствения интелект циркулира отдавна, но очевидната надпревара за внедряване на най-напредналите технологии в тази област предизвика още по-сериозни опасения.

Инициаторите на новото писмо посочват, че всеки, който споделя опасенията относно скоростта и безопасността на развитието на изкуствения интелект, е добре дошъл да добави името си към писмото.