Podcast #VN Vocea Nației #183

Când unii dintre cei mai cunoscuți oameni din lume semnează o scrisoare deschisă prin care cer o pauză în dezvoltarea inteligenței artificiale, cât de teamă ar trebui să-ți fie? Povestim sâmbătă, de la ora 12:00, la Vocea Nației, cu Dragoș Pătraru.
___
În episodul 183 din Vocea Nației:
- Ar trebui să ne gândim la inteligența artificială ca la energia nucleară. Nu știm dacă va fi folosită ca să alimenteze cu energie miliarde de oameni sau ca să-i anihileze cu o bombă atomică.
- Un cercetător care lucra în 2016 la un program de inteligență artificială folosit pentru jocuri pe calculator și-a dat seama că programul lui se blocase într-o cursă pentru bărci. În loc să încerce să câștige cursa, programul lui se învârtea într-un cerc. De ce?
- Problema nu e că inteligența artificială vrea să ne facă rău în mod intenționat, problema e că poate să devine mult prea competentă și mult prea bună în a-și atinge scopurile, chiar dacă acele scopuri nu sunt aliniate cu scopurile oamenilor.
- Ce este experimentul camerei chinezești?
- Cum învățăm roboții să fie etici? Și mai ales, cum îi învățăm să fie etici și morali când încă nu știm nici noi prea bine ce înseamnă asta?
___
Resurse:
- Scrisoare deschisă: https://futureoflife.org/open-letter/pause-giant-ai-experiments/
- The Alignment Problem – Brian Christian, https://brianchristian.org/the-alignment-problem/
- AI cu conștiință sau doar un chatbot care a învățat filosofie? – https://mindcraftstories.ro/ai-roboti/ai-cu-constiinta-sau-doar-un-chatbot-care-a-invatat-filosofie/
___
Server Config:
- https://www.server-config.ro/