[TED] How to get empowered, not overpowered, by AI(Max Tegmark)

# keypoint

한줄 요약: 인공지능의 힘, 방향성, 목표에 대해 설명

• 힘 - 최근 AI가 가진 힘이 얼마나 성장했는지 보면 놀랍다.
  •   ex) 자율주행, 자율비행, 얼굴인식, 가짜 얼굴 조작
  •   +구글의 알파고는 인간의 3000년 바둑의 역사와 지혜를 익힘. 세계최고의 바둑기사됨.
  •   AGI(Artificial general intelligence)는 인간이 할 수 있는 어떠한 지적인 업무도 성공적으로 해낼 수 있는 (가상적인) 기계의 지능 - 인간이 가장 지적인 존재로 남지 않음.
  •  AI의 발전은 인간이 아니라 AI가 주도 - 지능의 폭발적 증가 가능성 - 초지능의 탄생
  •   But 실상은 전문가들이 수십년내에 AGI가 실행될 것이라고 주장 -> 인간은 뭘 해야될까?(AI가 인간보다 낫다면,,)
• 방향성(발전방향) - AI가 인류를 곤경에 빠뜨리지 않고 번성하도록 이끌 수 있을까?
  •   우리는 불을 발견하고 한참 뒤에 소화기를 발명함.
  •   우리는 차를 발명하고 한참 뒤에 신호등, 에어백, 안전벨트 등을 발명함.
  •   과연 핵무기나 AGI같이 훨씬 막강한 기술에 대해서도 실수에서 교훈을 얻는다는 것은 형편없는 것 - 반응하기보다는 선행하는 것이 나을 것 - 미리계획을 세워 초기에 바로잡기
• 목표 - 얼마나 강력하길 바라는 걸까요?
  •   호기심과 경제성으로 AGI를 개발함. 하지만 누가 어떤 책임을 가질지는 불분명,,
  •   인간의 통제 하에 초지능을 만들자 - 자신을 통제하는 사람을 위해서,,,
  •   권력은 타락하고 부패하기 마련 - 인간이 똑똑하지 않다고 걱정하는 것이 아니라 AI의 막강한 능력을 다룰만큼 매우 똑똑하다는 것을 걱정해야 함.
  •   뛰어난 AI를 노예로 만든다는 것에 죄책감을 가질 것이 아니라 염려해야 하는 것은 우리를 훨씬 능가하는 초지능이 나타나서 모든 것을 차지 할 수 있다는 것
  •   계발하지 않는다면 다른 계산하지 못한 문제로 인해 죽을 수 있음.
  •   그렇다면 두 마리 토끼를 한번에 잡으면 어떨까?
  •   AGI가 우리와 같은 가치관을 갖고 우리에게 호의를 베풀게 하는 것 - '친근한 AI'라 칭함
  •   친근한 AI만 있다면 사람들은 각장 원하는 삶을 자유롭게 선택할 수 있다.

"인공지능에게 제압당하지 않고, 기술로 인공지능을 제압하여 힘을 얻자"

# 참고

• https://www.ted.com/talks/max_tegmark_how_to_get_empowered_not_overpowered_by_ai/up-next

How to get empowered, not overpowered, by AI