기계와 자율성

 
① 기계는 인간의 능력을 언제나 뛰어넘는다. 인간의 능력을 뛰어넘지 못하는 기계는 필요조차 없으니 말이다.

② 새로운 기계의 등장은 언제나 새로운 두려움도 만들어냈다. 대부분 인간의 능력을 뛰어넘는 기계 때문에 일자리가 사라질 수도 있다는 걱정이었다. 하지만 인공지능의 등장은 이제 완전히 새로운 두려움을 자극하고 있다.

③ 왜 이런 걱정을 하는 걸까? 과거 기계들과는 다르게 인공지능은 학습 능력을 가지고 있기 때문이다. 아무리 빠른 자동차도 스스로 더 빨리 달릴 수는 없지만, 인공지능은 스스로 자신의 능력을 더 향상시킬 수 있지 않을까? 

④ 둘째로는 인간이 던져준 문제를 더 효율적으로 해결하기 위해 자발적으로 문제를 풀 수 있는 능력을 확보할 수도 있다. 역설적으로 인간에게 더 도움이 되기 위해 자율성이라는 개념을 습득할 수 있다는 말이다.

⑤ 그렇다면 만약 그들이 기계에 인간에 대한 증오와 자율성을 가르쳐 준다면? 결국 인류의 미래는 인공지능 자체 때문이 아니라, 인간을 증오하고 인류의 미래를 부정하는 사람들 때문에 위험해질 수 있다는 말이다.