Съвременният свят е в процес на бързо развитие на технологиите на изкуствения интелект, но има много предизвикателства, които трябва да бъдат преодолени, преди да можем да говорим за пълното подготвяне на света за предстоящата AI буря.
Едно от големите предизвикателства е въпросът за етиката и отговорността. Изкуственият интелект може да бъде използван за постигане на добри цели, но също така може да се злоупотреби с него и да предизвика сериозни проблеми.
Поради тази причина водещи фигури в областта на изкуствения интелект предлагат преустановяване на обучението на мощните AI системи. Те са подписали отворено писмо, в което предупреждават за потенциалните рискове и заявяват, че надпреварата за разработване на AI системи е излязла извън контрол.
Кои са експертите, които се притесняват за бързото развиване на изкуствения интелект?
Главният изпълнителен директор на Twitter, Илон Мъск, е сред тези, които искат обучението на AI да бъде преустановено поне за шест месеца. Няколко от изследователи от DeepMind и съоснователя на Apple, Стив Возняк, също са подписали документа.
OpenAI е компанията, която разработва ChatGPT, един от най-големите модели за естествен език, базиран на архитектурата GPT-3.5. Наскоро екипа разработи нов модел, наречен GPT-4, който е смятан за най-съвременната технология в тази област. Наблюдателите бяха впечатлени от неговата способност да изпълнява задачи, като отговаряне на въпроси за обекти в изображения.
Няколко известни личности са подписали писмо, публикувано от Института за бъдещето на живота, в което се призовава за временно спиране на разработването на по-усъвършенствани системи. Те предупреждават за рисковете, които биха могли да представляват тези системи в бъдеще.
В писмото се посочва, че системите за изкуствен интелект със способности конкурентни на човешките, могат да представляват сериозни заплахи за обществото и човечеството.
Институтът за бъдещето на живота е организация с нестопанска цел, която твърди, че мисията ѝ е да работи за намаляване на глобалните катастрофални и екзистенциални рискове, пред които е изправено човечеството. Особено екзистенциалния риск от усъвършенстван изкуствен интелект. Г-н Мъск е вписан като външен съветник на организацията.
В писмото се споменава, че изкуствен интелект може да предизвика проблеми, като напълни информационните канали с дезинформация и да замени човешките работни места с автоматизация. Това може да има сериозни последици за обществото и икономиката, затова е важно да се разгледат и да се приложат необходимите мерки за противодействие на тези потенциални рискове.
В писмото се задава по-спекулативен въпрос, който поставя под въпрос нуждата да развиваме нечовешки умове, които имат потенциал да ни надхитрят, превъзхождат и дори да ни заменят.
Пред BBC News, Стюарт Ръсел, професорът по компютърни науки в Калифорнийския университет в Бъркли и един от подписалите писмоти, заяви:
Системите на изкуствения интелект създават значителни рискове за демокрация чрез сезинформация. Както и за заетостта чрез изместването на човешките умения и за образованието чрез плагиатсво и демотивация.
