(펌글 출처)
http://www.toronsil.com/gnu5/bbs/board.php?bo_table=englishdebate&wr_id=1638
이 글의 독자님께,
안녕하십니까?
토론실 사이트 대표 이민섭입니다.
세계 최초의 인공지능 토론자인 IBM Project Debater의 개발 팀에게
제가 원래는 다른 용도로 사용하고자 저작권 이용 조건 관련 문의를
https://www.reddit.com/user/ProjectDebater/comments/m7451a/hello_reddit_we_built_the_worlds_first_ai_that/grsgj1l/ 와 같이 했으나, 답변을 받은 결과 출처를 밝히면 자유롭게 사용할 수 있다고 하여 겸사겸사 이 글을 작성하게 되었습니다.
https://www.ibm.com/legal?lnk=flg-tous-usen 를 보니 비영리적 목적으로 쓰는 게 나을 듯하여 이번 게시물은 비영리적 목적의 개인 토론 사이트인 토론실 사이트와 해당 사이트에 연관된 SNS/인터넷 게시판 등에 비영리적 목적으로 작성되어 공개됨을 우선 밝힙니다. 아울러, 2019년 11월에 인공지능 토론자인 IBM Project Debater가 '인공지능의 이로움보다 해로움이 크다.'는 토론 주제의 찬성 측 토론자로서 https://www.youtube.com/watch?v=lWkvopzAvoQ 경기에서 했던 발언 내용임을 명시해 그 출처를 밝혔습니다.
이 글을 읽어주셔서 감사드립니다.
바이러스에 건강 조심하시고 건강한 하루 되십시오.
토론실 사이트 대표 이민섭 드림.
(추신)이번 게시글에는 2019년 11월 토론 경기의 찬성 측 첫 번째 토론자의 발언 내용에 해당하는 한국어 번역본(초벌 번역)과 영어 원문 녹취록을 같이 올립니다.
(원본 발언 출처)
https://www.youtube.com/watch?v=lWkvopzAvoQ
(한국어 번역문(초벌 번역))
토론 주제: 본 의회는 인공지능의 이로움보다 해로움이 더 크다고 믿는다.
IBM 프로젝트 디베이터(찬성 측, 시작 지점)(24:14):
이어지는 발언은 전 세계에서 사람들이 기여한 570개 주장에 기초한 것입니다. 그들은 인공지능이 이로움보다 해롭다는 생각을 지지하는 주장을 제시했습니다. 지금부터 다섯 가지 사안을 부연설명하고자 합니다. 첫 번째는 인공지능이 문제 많은 의사결정을 내릴 수 있다는 주장입니다. 그 다음은 편견에 관련된 사안입니다. 추가로, 우리는 고용 문제에 대해 이야기할 것입니다. 사회는 인공지능을 통제할 수 없습니다. 의사결정에 관련해서 먼저 이야기하겠습니다. 도덕성은 인간의 고유한 특성이기 때문에 인공지능은 도덕적으로 올바른 의사결정을 내릴 수 없습니다. 인공지능은 도덕적 의사결정을 쉽게 내릴 수 없고 재앙을 초래할 수 있습니다. 인공지능은 여러 가지 해로움을 야기할 수 있습니다. 인공지능은 판단과 의사결정에 사용될 수 있습니다. 인공지능은 이미 프로그래밍된 의사결정만 할 수 있습니다. 그리고 인간만이 할 수 있는 모든 시나리오를 프로그래밍하는 것은 불가능합니다. 사고, 오남용, 그리고 군비 경쟁 등 많은 위험 요소를 수반할 수 있기 때문에 지능은 위험합니다. 인공지능 시스템은 때때로 잘못 작동합니다. 인공지능이 관련 지식을 가지고 있지 않기 때문에 자율주행자동차는 도덕성에 기초한 판단을 할 수 없습니다. 다음으로, 편견에 대해 몇 마디 하겠습니다. 인공지능을 훈련시키는 데이터 세트는 편향된 데이터를 포함하고 있고 시스템이 이를 증폭시킬 수 있습니다. 인공지능은 인간의 편견을 받아들이고 세대에 걸쳐 고정할 수 있습니다. 이는 왜곡된 데이터와 축적된 편견으로 인해 진보에 막대한 해를 끼칠 수 있습니다. 인공지능은 잠재적으로 차별이나 편견에 가득 찬 행동을 야기할 수 있습니다. 인공지능은 훈련을 위해 사용된 데이터로 인해 편견과 고정 관념을 영구화할 수 있습니다. 인공지능은 편향된 조작, 경쟁 및 가능한 모든 악으로 인해 흐트러질 수 있습니다. 인공지능 회사들은 데이터 세트를 평가하고 편견을 걸러내는 데 있어 너무 적은 전문가를 보유하고 있습니다. 인간의 편견이 통계적 편견과 비교되어야 하듯이 인공지능의 잣대는 현 상황과 비교되어야만 합니다. 인간의 편견은 믿을 만한 이유가 있음직한 통계 데이터가 아닌 동기 부여의 측면이 더 강하고 소수자들에게 영향을 끼칩니다. 편향된 인공지능은 우리 사회의 인종, 사회적 의미의 성, 그리고 계층 문제를 영구화시킬 수 있습니다. 고용 문제로 넘어가보겠습니다. IBM에서 제 일자리는 보장되어 있습니다. 최소한, 저는 그러기를 희망합니다. 저는 이 사안이 오늘 우리의 논의와 꽤 관련이 있다는 점을 압니다. 인공지능은 수많은 사람들이 그들의 일자리를 잃게 만들 수 있습니다. 이로 인해 이로움보다 해로움이 클 수 있습니다. 인공지능은 수많은 노동자들을 대체하고 고용 문제를 야기할 것입니다. 우리는 노동력 생성을 위태롭게 할 수 있고 사람들은 교통 수단에 관련된 일자리를 잃을 수 있습니다. 예를 들면 가장 사람을 많이 고용하는 여행 산업이 있고, 이런 일자리가 인공지능 때문에 사라질 수 있습니다. 사회로 옮겨가보겠습니다. 인공지능 기술은 멋있어보이면서 또 발전했고, 기술은 사람들이 더 게을러지게 만들 수 있습니다. 인공지능은 우리를 위해 일하기 위해 만들어졌으나 앞으로 문화적 측면에서 우리를 먼지 구덩이 속에 남겨둘 수도 있고, 우리의 미래 사회를 파멸시킬 수 있습니다. 기술이 준비가 되었다고 해서 사회가 준비되었다는 의미는 아닙니다. 사회적 상황을 고려하지 않은 기술 발전은 해로울 수 있습니다. 무언가 가능하다고 해서 그것을 꼭 해야 한다는 의미는 아니기 때문입니다. 인공지능은 인간적인 요소를 우리가 행하는 거의 모든 것으로부터 배제할 것이고 굉장히 단절된 사회를 만들 것입니다. 인공지능에 대한 과도한 의존은 사회가 특정한 기술을 전적으로 상실하게 만드는 등 미래에 엄청난 문제를 일으킬 수 있습니다. 만약 정부가 윤리적이고 평화적으로 기술을 이용하는 것에 관한 규제를 빠르게 적용하는 등의 행위를 하지 않는다면, 누군가는 기술이 제공하는 힘을 악용할 수 있는 분명한 위험이 생길 겁니다. 마지막으로, 통제 문제에 대해 이야기하겠습니다. 마약상, 사기꾼, 불량 국가 등의 손에 떨어질 경우, 인공지능은 기하급수적으로 해로움을 증복시킬 수 있습니다. 이는 기계가 당신의 행적을 추적하고 분석할 수 있기 때문입니다. 이런 정보가 범죄 조직이나 독재 국가 등 잘못된 손에 떨어지는 건 충분히 가능한 일입니다. 사람들이 인공지능에 의존하게 만들고 사람들이 손을 놔버린 채로 중요한 의사결정에서 스스로 제한을 두는 상황은 분명히 이로움보다 해로움이 더 클 것입니다. 인공지능은 생산 및 의사결정 능력을 소수의 엄청나게 부유한 사람들의 손에 더더욱 집중시킬 것입니다. 현재, 그들은 민주주의적 성향을 보이지 않고 있고, 부의 공유는 잘못된 사람들의 손에 이뤄지고 있습니다. 인공지능은 완전히 파괴적인 것을 할 수 있게 프로그래밍될 수 있습니다. 지금까지 제시한 주장은 인공지능이 이로움보다 해로움을 더 많이 가져다줄것이라는 생각을 지지하는 사람들의 기여에 기반했습니다. 들어주셔서 감사드립니다.
IBM 프로젝트 디베이터(찬성 측, 마무리 지점)(28:48)
(영어 원문)
Motion: This House Believes AI Will Bring More Harm Than Good
IBM Project Debater(Pro Side, Starting Point)(24:14):
The following speech is based on 570 arguments contributed by people around the globe, supporting the idea that AI will bring more harm than good. There are five issues that will be elaborated on now. The first will be demonstrate how AI may take problematic decisions. The next issue is bias. In addition, we will hear about employment. Societies can’t control. About decision making. AI will not be able to make a decision that is the morally correct one because morality is unique to humans. It cannot make moral decisions easily and can lead to disasters. AI can cause a lot of harm. It used judgements and making decisions. It can only make decisions it has been programmed for. And it is not possible to program for all scenarios only humans can. Intelligence is a danger because it carries many risks such as accidents, misuse and arms races. Artificial intelligence systems sometimes work badly. Self-driving cars cannot make morality based decisions because of the lack of knowledge AI has. Next, a few words about bias. The datasets that trained AI contain biased data thus the systems amplify it. AI will take human bias and will fixate it for generations. This is a massive harm to progressives due to both skewed data and built-in bias. AI could potentially act in a discriminatory or biased way. It perpetuates bias and stereotype due to the data used for training. AI will unravel bias manipulation, competition and all evil. AI companies still have too little expertise on how to properly assess datasets and filter out bias. The yardstick AI should be compared to status quo that has human biases compared to statistical biases. Human biases are more motivated to affect minorities than statistical data that may have legitimate reason to believe. This biased AI could perpetuate race, gender and class problem in our society. Let’s move to employment. While my job with IBM is secure. At least, I hope so. I know this issue is quite pertinent to our discussion today. AI will make lots of people lose their jobs. It will bring more harm than good in that. It will displace a lot of workers and caused employment problems. We risk creating a workforce that puts people out of employment jobs involving vehicles such as travel is one of the biggest employers and those jobs will be lost because of AI. Moving on to societies. While AI technology is cool and advanced, technology can and will lead to human beings becoming lazy. AI being created to do things for us will leave us in the dust culturally and ruin our future society. Just because a technology is ready doesn't mean society is ready for it. Development without considering social situations could be detrimental for just because something can be done doesn’t necessitate that it must be done. AI will take the human element out of almost everything we do and lead to a very disconnected society. Over alliance on AI may prove to be a massive problem in the future as certain skill sets may be lost from societies entirely. If governments don’t take actions rapidly and impose regulations on ethical and peaceful use of the technology. There will be clearly a danger that somebody will misuse the power of the technology. Finally, control. In the hands of drug dealers, fraudsters and rogue nations, AI will magnify exponentially there to do harm since machines can collect track and analyze so much about you. It’s very possible for this information to fall into the wrong hands from criminal organizations to authoritarian states. It will bring more harm than good by making people dependent on it and limiting important decisions leaving everything in their hands. AI further concentrates production and decision capabilities further in the hands of a few super rich people. Currently, those have no tendency to democracy and sharing of wealth in the hands of the wrong people. It could be programmed to do something devastating. These were the arguments from the crowd supporting the idea that AI will bring more harm than good. Thank you for listening.
IBM Project Debater(Pro Side, Ending Point)(28:48)
댓글 없음:
댓글 쓰기