*** 6분영어(Rise of the machines) > 중.고등교육 게시판

날씨가 조금 풀렸습니다.

영하 13-15도의 날씨가 계속되다가보니 엉하 5도 정도의 날씨가 따뜻하게 느껴지네요.

그동안 너무 추웠나봐요.

감기 조심하시구요.

개학을 이미 한 학교도 있고 곧 대부분 개학을 하시겠죠?

또 1-2주안에 봄방학이 있으니 ^^

이번주 주제는 AI 입니다.

그동안 BBC 6분 영어에서도 AI는 여러번 다루어졌던 것 같습니다.

An American company has said its ambition is to achieve an AI that can beat humans at any intellectual task. But can machines ever out-think humans?

Dan and Neil discuss the rise of artificial intelligence.

Asimov thought of that. Isaac Asimov was an American science fiction writer who, among other things, wrote about robots. He came up with three laws that every robot would have to follow to stop it from acting against humanity. So we’re safe!

Do you really think that humans can stop fighting? What if the AI decides that the only way to stop us from hurting ourselves and each other is to control everything we do, so it takes over to protect us. Then we would lose our freedom to a thing that we created that is infallible and more intelligent than we are! That’s the end, Neil!

AI의 지배를 저지하기 위한 기본 법칙을 제안한 과학자들

Scientists Want to Set Some Ground Rules to Stop AI Taking Over The World

해외과학기술동향 2017-06-05

인공지능(AI) 기술이 매우 빠른 속도로 발전하고 있는 가운데, 3명의 과학자들이 너무 늦기 전에 AI에 더욱 책임성과 투명성을 요구해야 한다고 촉구하고 있다.

이 영국 과학자들은 사이언스 로보틱스 저널을 통해 기존 규칙과 규제는 AI가 무엇을 할 수 있는가에 대한 충분한 한계를 제공하지 못하고 있으며 로봇에 대해서도 그 로봇을 제작하는 사람과 동일한 기준을 적용해야 한다고 밝혔다. 이들은 개발 중인 시스템의 다양성을 비롯하여 내부적으로 작동하는 AI의 투명성 결여 등을 포함하여 문제를 일으킬 수 있는 요소가 많이 존재한다고 주장하고 있다.

시스템은 불공정하고 차별적인 결정을 내릴 수 있고 편파적인 되거나 그런 결정을 반복할 수 있고 인간의 이익과 안전을 위험에 빠뜨릴 수 있는 매우 민감한 환경에서 예상치 못한 방식으로 행동할 수도 있다. 그렇다면 어떻게 AI를 신뢰할 수 있는지 알 수 있을까?

로봇이 대량으로 이용되기 전에도 자율 운전 차량이 일으킨 사고의 원인을 파악하는 것부터 대출 신청이 거절된 이유를 이해하는데까지 설명할 수 없거나 해독할 수 없는 AI가 문제를 일으킬 수 있음을 알 수 있다. 또 다른 문제로는 대부분의 AI가 인간이 입력한 데이터를 이용하지만 그 과정은 규제에서 제외되어 있다는 것이다.

이런 문제를 해결하기 위해 과학자들이 제안하는 것 중에는 적용 분야의 다양성으로 인해 전체적인 규제가 어렵지만 로보틱스, AI, 의사결정 알고리즘을 하나의 그룹으로 다루는 일련의 지침이 필요하다는 점이다. 또한 AI 시스템에 추가 투명성을 요구하는 것은 성능에 영향을 줄 수도 있고 해당 기업들이 다양한 기업비밀을 공개하지 않을 것이라는 예상도 가능하다. 게다가 이제 AI는 자신을 가르치고 있는 단계에 와 있으므로 어떤 일이 발생하는지 설명하는 것이 불가능한 지점을 지나고 있을 수도 있다.

AI의 복잡성과 다양성은 권리의 법조문을 어렵게 만들게 되며, 너무 광범위하거나 협소할 경우 혁신을 방해할 수도 있지만 의미 있는 보호를 제공할 수도 없게 된다. 따라서 미묘한 균형이 필요한 시점으로 볼 수 있다. 이들은 이전에도 유럽연합이 제시한 일반 데이터 보호 규정에 대해서 인공지능 감시기구가 필요하다고 주장한 바 있다.

옥스퍼드 대학의 루시아노 플로리디는 우리가 이미 그 결정에 의문을 제시할 수 있는 권리를 포기한 알고리즘에 너무 의존하고 있다고 말했다. 플로리디를 포함한 과학자들은 오스트리아와 독일의 사례를 언급하며 사람들이 어떻게 AI가 결정을 내리는가에 대한 충분한 정보를 얻지 못하고 느끼고 있다고 말했다.

궁극적으로 AI는 자율 운전 차량과 의사를 만나기 전에 질병 초기 단계 조짐을 진단함으로써 노인들이 독립적인 생활을 영위하게 하는 등 인류에게 도움이 될 것이다 하지만 현재 전문가들은 이런 시스템이 통제를 벗어나거나 너무 지배 세력이 되지 않도록 하는 안전 조치를 마련하는데 어려움을 겪고 있다.

AI의 공정성, 투명성, 해석 가능성 및 책임성에 대한 우려는 동등하고 기원이 동일하며 관련 하드웨어, 소프트웨어 및 데이터가 어떻게 조합되어 있는가에 관계없이 해결해야 할 문제로 볼 수 있다.

<참고 기사 및 동영상자료>

http://news.joins.com/article/20234730

http://www.hankookilbo.com/v/d5fb23f922054c1fad714c9aa8f10695

인간이 인공지능의 발전을 두려워하는 5가지 이유

https://www.youtube.com/embed/llYUPc4uhUs

Vocabulary

inevitable

cannot be avoided or stopped

(ex) Can you think of something inevitable, Neil?