Стивън Хокинг: Изкуственият интелект може да унищожи човечеството

Изкуственият интелект може да измести и дори унищожи хората, ако инженерите не успеят да изградят в него етика, предупреди Стивън Хокинг

По време на среща на високо равнище в Лисабон физикът заяви, че изкуственият интелект (AI – Artificial Intelligence) притежава потенциал да бъде или най-доброто, или най-лошото, което човечеството е виждало. Страшно е, че все още не сме наясно кое от двете ни очаква.

Изкуственият интелект може да ни унищожи

„Не можем да знаем дали AI ще ни помага, или ще се опита да ни унищожи“.

Според професор Хокинг изкуственото съзнание може да допринесе изключително много за намаляване на бедността, болестите и за възстановяване на природата. Не е ясно обаче какво ще се случи с нас, „когато подсилим с него умовете си“. Това може да доведе до създаване на мощни автономни оръжия или на нови начини малцина да потискат мнозина. Освен това AI може да развие своя собствена воля, което не съответства на нашата (лична или обща човешка воля) и да ни унищожи.

В своето обръщение към инженерите и технологичните работници от ложата за развиването на изкуствения интелект професор Хокинг предупреди, че те трябва да се съсредоточат върху увеличаване ползите за обществото, а не изключително и само върху развиване на способности.

Стивън Хокинг: Вие сте пионерите в Новия свят

„Трябва да заложим на ефективния мениджмънт във всички области в разработването на изкуствения интелект. Стоим на прага на нов смел свят. Това е вълнуващо, но и несигурно, а вие сте пионерите в него.“

В тридневната среща на високо равнище участват високопоставени техници, бизнес и държавни лидери. Те се борят с етичните последици от вграждането на изкуствен интелект във всеки един аспект на живота ни – от самоуправляващи се автомобили до интелигентни секс кукли.

Основателят на уеб срещата Пади Козгров нарече текущия кръстопът на технологиите „един вид инфлексна точка, която се случва веднъж на няколко поколения“.

ЕС и ООН вземат участие в срещата

Участници в срещата бяха генералният секретар на ООН Андонито Гутерис и комисарят по конкуренцията на Европейския съюз Маргарет Вестагер. Последната глоби Apple с 19 млрд. долара за неплатени данъци в Ирландия и Google с 3,6 млрд. долара заради алгоритъм. Според нея основното предизвикателство пред правителствата е да разработят инструменти, чрез които да се справят с бързия темп на промяна.

„Трябва да си върнем демокрацията, но и да я подновим, защото обществото е за хората, а не за технологиите“, заяви тя. „Онова, което става в черната кутия, не остава в нея“.