* Journal of Artificial Intelligence Research: „Суперразумна машина, која управља светом — звучи као научна фантастика. Али, већ постоје роботи који независно од људи обављају одређене важне задатке. Програмери уопште не схватају како су се ти роботи томе научили“
________________________________________________________
ТИМ научника, међу којима су главни били сарадници Центра за људе и машине Института за развој човека „Макс Планк“, дошао је до закључка да човечанство неће бити у стању да држи под контролем вештачку суперинтелигенцију!
Чак ни ако на том плану предузме све могуће мере.
Резултате свог истраживања овај тим је објавио у часопису Journal of Artificial Intelligence Research.
Са овим упозорењем: „Суперразумна машина, која управља светом — звучи као научна фантастика. Али, већ постоје роботи који независно од људи обављају одређене важне задатке. Програмери уопште не схватају како су се ти роботи томе научили. Зато се намеће питање: може ли тај процес у неком моменту измаћи контроли и постати опасан за човечанство?».
Један од аутора истраживања Мануел Себриан указао је:
„Научници су преко мноштва алгоритама и сценарија дошли до закључка да потпуна контрола над суперразумном вештачком интелигенцијом није могућа. Чак ни ако се `накљука` подацима о етичким принципима. Па и ако буде потпуно одвојена од спољњег света – ризик губљења контроле над њом остаје“.
Факти
Navalili su kao mutavi na veštačku inteligenciju i verovatnoću da će se ona jednog dana oteti kontroli i pobiti milijarde ljudi (verovatno će sasvim slučajno ostaviti 500 miliona). Tako nešto nije moguće bez namere čoveka. Uostalom, čovek uvek ima “utikač” koji u svakom trenutku može da izvuče i tako spreči veštačku inteligenciju da napravi pomor. Ako nema taj utikač, onda je to čovekova greška, i to ne slučajna, nego namerno osmišljena da bi se sprala odgovornost sa moćnika i prebacila na beslovesnu mašinu. Kompjuteri i veštačka inteligencija uopšte su vrlo “glupi”. Oni rade samo ono što im čovek kaže, bilo direktno ili oponašanjem. I utoliko je ona jako inferiorna u odnosu na čoveka. Ali ona ima dve vezane prednosti: nema moral i ne podleže nikakvoj odgovornosti. Postoji jedan SF roman Isaka Asimova. Mislim da mu je naslov “Ja robot”. Tu se opisuje incident sličan ovom kog se moćnici kobajagi pribojavaju, a to je da je jedan od robota poludeo i počeo da pravi dar-mar po nekoj udaljenoj planeti, čovekovoj koloniji. Na kraju se ispostavlja da robot uopšte nije poludeo nego je kćer konstruktora nešto čeprkala po njemu, napravila neke izmene (zaboravio sam šta joj je bilo namera) i kao nuz efekat se dobilo nepoželjno ponašanje robota. Pisac Isak Asimov, i sam fizičar i kibernetičar ovim je hteo da naglasi da je svaki robot samo mašina kojom se u svakom trenutku može upravljati, a čak i ako ne može, to je opet čovekova, najčešće namerna, greška. Svaka veštačka inteligencija je zapravo glupa i njeno mistifikovanje i davanja joj nekih supermoći nema nikakvog smisla. Nema supermoći superinteligencije. Sve je to potpuno upravljivo i za ponašanje te superinteligencije odgovoran je neki čovek kog uvek treba držati na oku, ne jedan čovek, nego čitav sistem i čitavo društvo.
Tri osnovna zakona robotike koje ni jedna veštačka inteligencija tj. njen autor/konstruktor ne sme da prekrši:
1. Robot ne sme povrediti ljudsko biće niti, svojom neaktivnošću, dozvoliti da ljudsko biće bude povređeno.
2. Robot mora poštovati naređenja ljudskih bića, osim ako se ta naređenja ne kose sa Prvim zakonom.
3. Robot mora da štiti sopstvenu egzistenciju, osim ako se to ne kosi sa Prvim i Drugim zakonom.