Мъск и над 1000 експерти искат пауза в разработването на мощните AI системи
Четвъртък, 30 Март 2023 12:04
![](i/a+.gif) ![](i/a-.gif)
Илон Мъск и група експерти по изкуствен интелект и ръководители на индустрията призовават за шестмесечна пауза в разработването на системи, които са по-мощни от току-що пуснатия GPT-4 на OpenAI. В отворено писмо те цитират потенциалните рискове за обществото и човечеството.
Позицията е изпратена от организацията с нестопанска цел Future of Life Institute и е подписана от повече от 1000 души, включително Мъск. Там се призовава за спиране на напредналото развитие на AI, докато не бъдат разработени, внедрени и одитирани от независими експерти споделени протоколи за безопасност за такива проекти.
"Мощните AI системи трябва да бъдат разработени само след като сме уверени, че техните ефекти ще бъдат положителни и рисковете ще бъдат управляеми“, се казва в писмото.
То подробно описва потенциалните рискове за обществото и цивилизацията от системите за изкуствен интелект, конкуриращи се с човека, под формата на икономически и политически смущения и призовава разработчиците да работят с политиците по отношение на управлението и регулаторните органи.
Съподписалите се включват главният изпълнителен директор на Stability AI Емад Мостаке, изследователи от притежаваната от Alphabet компания DeepMind, както и експертите в AI Йошуа Бенгио и Стюарт Ръсел.
Според регистъра за прозрачност на Европейския съюз, Future of Life Institute се финансира основно от Фондация „Мъск“, както и от базираната в Лондон група за ефективен алтруизъм Founders Pledge и Фондацията на общността на Силиконовата долина.
Притесненията идват, след като Европол в понеделник се присъедини към увеличаващите се гласове, предупреждаващи за етичните и правни опасения относно напреднал AI, като ChatGPT, предупреждавайки за потенциалната злоупотреба със системата при опити за фишинг, дезинформация и киберпрестъпления.
Междувременно правителството на Обединеното кралство разкри предложения за „адаптивна“ регулаторна рамка около изкуствения интелект.
Подходът на правителството, очертан в политически документ, публикуван в сряда, ще раздели отговорността за управлението на AI между неговите регулатори за правата на човека, здравето и безопасността и конкуренцията, вместо да създаде нов орган, посветен на технологията.
Мъск, чийто производител на автомобили Tesla използва изкуствен интелект в системата за автопилот, изрази притесненията си относно изкуствения интелект.
След пускането си миналата година, ChatGPT подтикна конкурентите да ускорят разработването на подобни големи езикови модели, а компаниите да интегрират генеративни AI модели в своите продукти.
Сам Алтман, главен изпълнителен директор на OpenAI, не е подписал писмото, каза говорител на Future of Life пред Reuters. Компанията зад популярния чатбот ChatGPT не отговори веднага на искането за коментар.
Писмото не е перфектно, но духът е правилен: трябва да забавим темпото, докато не разберем по-добре последиците“, каза Гари Маркъс, професор в Нюйоркския университет, който е подписал писмото. „Те могат да причинят сериозна вреда... големите играчи стават все по-потайни относно това, което правят, което затруднява защитата на обществото срещу всякакви вреди, които могат да се материализират.“
|
Новини - теми |
Търси в новини |
Популярни теми |
|
![](i/0.gif) |
Новини от Варна, региона и света |
![](i/0.gif) |
![](im/96918.i150.jpg) Младежите по волейбол станаха европейски вицешамиони
Събота, 7 Септември 2024 22:05
Българският национален отбор остана със среброто на европейското първенство по волейбол за младежи под 20 години в Гърция и Сърбия. Националите отстъпиха пред Франция с 1:3 (25:22, 18:25, 16:25, 26:28)...
| |
![](i/0.gif) |
![](im/72545.i150.jpg) Илиан Илиев: Ако утре победим Северна Ирландия, нищо не е загубено
Събота, 7 Септември 2024 18:11
Националният селекционер на България Илиан Илиев изрази надежда, че предстоящият мач срещу Северна Ирландия от Лигата на нациите ще бъде "още една стъпка към припознаване на националния отбор от хората"....
| |
![](i/0.gif) |
![](im/144687.i150.jpg) Делян Пеевски отговори на президента за "компрометираните фигури в парламента, които се разпореждат с държавните ресурси"
Събота, 7 Септември 2024 17:23
Играта на Радев е ясна - той брани себе си и е готов да предаде държавата на Москва, в името на своето и на приближения си кръг от олигарси добруване. Радев не може да приеме правилата на демокрацията,...
| |
![](i/0.gif) |
![](im/134623.i150.jpg) Десет нелегални мигранти, скрити в каравана, са задържани на ГКПП "Дунав мост"
Събота, 7 Септември 2024 16:21
Десет нелегални мигранти, скрити в каравана, са задържани на граничния контролно-пропускателен пункт (ГКПП) "Дунав мост" при Русе, съобщава БТА.
Автомобил с каравана с румънска регистрация пристигнал...
| |
![](i/0.gif) |
![](im/147231.i150.jpg) Селена Гомес стана милиардер
Събота, 7 Септември 2024 15:51
Селена Гомес стана милиардер. Според списание "Блумбърг", което прави детайлно подреждане на най-богатите хора в света, американската актриса и певица вече е достигнала този статут.
Така само на 32...
| |
![](i/0.gif) |
![](im/147228.i150.jpg) Военноморските сили почетоха паметта на загиналите за свободата на Добруджа
Събота, 7 Септември 2024 15:29
Днес, 7 септември 2024 година, по случай 108-та годишнина от Добричката епопея, представителна част от Военноморските сили участва във военен ритуал на Мемориала в памет на загиналите от VI пехотна Бдинска...
| |
![](i/0.gif) |
![](im/124558.i150.jpg) Британското МО: Руските сили напредват към Угледар
Събота, 7 Септември 2024 15:06
Руските сили са постигнали тактически успехи на около 30 км югозападно от Угледар и напредват към града в Донецка област.
Това съобщи британското министерство на отбраната в ежедневната си сводка за...
| |
![](i/0.gif) |
![](im/134867.i150.jpg) Президентът Радев: В парламента проникват тежко компрометирани фигури с вълчи апетит
Събота, 7 Септември 2024 14:44
Очаквам ЦИК да следи за стриктното изпълнение на разпоредбите от Изборния кодекс - това каза президентът Румен Радев пред журналисти в Раднево. Там той участва в тържественото отбелязване на 60-годишнината...
| |
|
Изпрати новина
|
|
|
![](i/0.gif) |
Полезно |
Препоръчваме |
Най-четени |
Анкета |
|