Status Updates From Maskiner som tenker

“Det er mennesker, der giver læringsalgoritmerne både deres mål og deres annoterede data. Vi er ansvarlige for at lave data, og vi har ansvaret for, at både data og målet passer til den opgave, der skal løses.”

“En eventuel frygt, vi måtte have for maskiners handlinger, er derfor grundlæggende set én af to ting: Det er enten en frygt for menneskers ønsker eller en frygt for vores manglende forståelse af, hvad vi beder maskinerne om. Som forsker i kunstig intelligens er jeg ikke bekymret for, at min maskine kan have en skjult motivation for at slå mig i et spil. Jeg er bekymret for noget helt andet.”