당신이 어떤 국민인지 평가하는 국가신용점수가 있다면 어떨까?
이런 시스템에서는 시민점수가 나오고,
이 점수는 당신이 믿을 만한 사람인지 여부를 알려주는 지표가 된다고 한다.
영화에서나 나올법한 이야기를 진행하고 있는 내용을 처음 확인 했다.
2014년 6월 14일, 중국 국무원은 '사회신용제도 건설 계획'이라는, 제목부터 불길한 문건을 발표했고,
중국 정부에서 13억 인구의 신뢰성을 평가하는 시스템을 개발하면서 이미 벌어진 사건이라고 한다.
현재 중국의 시민점수에 참여하는 것은 자율이지만, 이 사회신용제도는 2020년까지 의무화될 예정이라고 한다.
우리는 초등학교에 다닐 때부터 등수가 매겨지고 일렬로 줄 세워지는 데 익숙하고, 본능적으로 남보다 높은 점수를 받아 현재의 지위를 향상시키고 싶어 한다. 이렇게 모두가 '쾌락의 쳇바퀴'에 갇혀 있는데, 쾌락의 쳇바퀴는 현재 상태를 끊임없이 개선하고 싶어하는 욕구를 가리키는 심리학 용어다.
평균의 종말 (토드 로즈 저)에서 보면 평균의 시대를 특징짓는 2가지 가정의 기준이 나온다.
1) 평균이 이상적인 것이며, 개개인은 오류라는 케틀레의 신념과
2) 한가지 일에 탁월한 사람은 대다수의 일에서 탁월성을 보일 가능성이 높다는 골턴의 신념이다.
https://blog.naver.com/kte827/221591723104
4차 산업혁명 시대, 우리아이 공부 방법은? 평균의 종말, 토드로즈 / 필사
인간 만사에서는 오랫동안 당연시해왔던 문제들에도 때때로 물음표를 달아볼 필요가 있다.- 버트런드 러셀,...
blog.naver.com
큰 맥락으로 보았을때 2책에서 동일한 얘기를 하고 있는 것을 난 느꼈다.
어떤 한 사람을 사람이 만든 기준이란 잣대에 틀에 맞춰 점수를 매기고 평균적인 인간보다 우월하다라는
평균주의의 독재라고 밖에 볼수 없었다.
우리 사회에서는 빠를수록 더 똑똑하다는 거짓말, 즉 우리는 개인의 성장,학습,발전의 속도에 중대한 의미를 부여함으로써 더 빠른것을 더 훌륭한 것으로 동일시하고 있다. 더 빠른 것이 더 똑똑한 것이라는 가정을 우리 교육계에 도입시킨 장본인은 에드워드 손다이크다. 손다이크는 이런 결부론의 근거로 학습의 차이는 뇌의 연결성 형성 능력의 차이에 따른 결과라고 주장하고 있다.
하지만 손다이크가 틀린 것이라면? 속도와 학습 능력이 관련이 없다면 아주 부당한 교육 시스템을 만들어 냈다는 얘기가 된다. 불룸의 연구진은 무작위로 학생들을 두 그룹으로 분류했다. '고정 속도형 그룹' / '자율 속도형 그룹' 블룸이 각 그룹의 성취도를 비교해봤더니 놀라운 결과가 나왔다. 전통적 교실에서 수업을 받은 학생들의 성취도는 빠를수록 똑똑하다는 신념 기준으로 예상될 법한 딱 그 수준이었다. 지도 과정이 끝나갈 무렵에 이 그룹은 약 20퍼센트가 수업 내용을 완전히 이해한 수준... 반면에 자율 속도형 학생들은 90퍼센트 이상이 수업 내용을 완전히 이해한 수준이었다.
사실 내 생각도 토드로즈의 생각처럼 시스템에 대한 순응이 아니라, 개개인성을 중요시함으로써 평균주의의 독재에서 해방돼야 한다고 생각한다.
홍콩에 있는 국제인권감시단 중국본부의 대변인 마야 왕은 중국의 사회신용제도에서 '무서운 미래상'을 봤다고 한다. 정부의 정책에 거듭 명시되듯 사회신용제도에서 "신뢰성 있는 사람은 하늘 아래 어디든 자유롭게 다닐 수 있지만 신뢰를 깨트린 사람은 한 발도 내딛기 어려울 것으로 본다."
마야 왕 의 이야기 처럼 "무서운 미래상"이 다가오는 것으로 느껴졌다.
세상을 떠난 가족이나 친척을 흉내 내는 챗봇도 있고,(현재 래플리카라는 이름의 프로그램으로 나와 있다고 한다.)
우리가 새로운 기술을 신중히 다루지 않으면 예상보다 훨씬 일찍 기묘한 미래로 끌려 갈 수 있다는 뜻이다.
옥스퍼드 대학교의 정보철학과 윤리학 교수이자 옥스퍼드 인터넷 연구소 소장인 루치아노 플로리디는 구글 자문 위원회에서 유일한 윤리학자로 활동하고 있다.
플로리디에 따르면 온라인 활동이 온라이프에서 결합되는 시대에 진입했다고 말한다.
나아가 세상이 점차 실제 경험과 가상 경험이 뒤섞이는 인포스피어로 변해가면서 우리가 온라이프 성격(현실 세계에서 어떤 사람 인지와는 다른 성격)을 획득 할 것이라고 내다봤다.
이제는 사진,책,음악,영화,우정,돈까지 다 디지털화 된 이시대, 그리고 현재 신분과 평판을 디지털화하는 초기 단계에 진입했다고 한다. 등골이 오싹해 지는 생각이 든다.
거대한 변화가 일어나고 있다. 이제는 기계가 어떤 일을 처리해 주기만 하는 것이 아니라 무엇을 하고 언제 할지 결정 해 줄 것이라고 믿고 있다.
로봇. 은 90 여 년 전 극작가 카렐 차페크가 처음 만든 단어고,
차페크는 1921년 '강제노동'이나 '고된 노동'을 뜻하는 체코어 '로보타'에서 로봇이라는 단어를 만들었다고 한다.
초기능 기계란 더 똑똑한 기계를 설계하는 역할을 할것이고, '지능 폭발'이 일어나고 인간의 지능은 한참 뒤처질 것이고, 최초의 초지능 기계는 인간이 만든 최후의 발명품이 될것이란 전망도 있다.
가까운 미래에 '지능 폭발'이 일어날 위협에 관해서는 기업가 엘론 머스크, 마이크로소프트의 공동창업자 빌 게이츠나 스티븐 호킹박사 등 도 경고 한 바 있다.
봇은 대개 아무런 의심 없이 다른 이용자들의 말을 모방하면서 '학습'한다. 또한 봇은 놀라운 속도로 학습한다.
인공지능은 인간 뇌의 신경망을 모방하였는데, '생각하는 기계'가 인간이 할 수 있는 지적 활동과 궁극적으로 인간을 훨씬 능가하는 지적 활동을 수행할 만큼 똑똑해지면 인공지능은 인공일반지능(Artificial General Intelligence, AGI)이 된다.
가장 큰 문제는 봇의 윤리 로 보여진다. 기계의 윤리가 무엇이고, 기곅 용납 가능한 행동을 하게 만드는 책임이 누구에게 있는지에 관한 진지한 질문을 제기 한다. 2016년 4월, 페이스북의 봇 엔진이 출시된 지 몇 달 만에 새로운 봇 3만 4,000개가 생성되었다고 한다.
하지만 여기에서 자동화 할 수 없는 한가지가 있다고 말한다. 바로 인간의 신뢰 이다.
시스템의 의사결정 과정을 신뢰하려면 시스템이 우리에게 어떤 사고 과정을 거치는지 설명할 수 있어야 합니다.
윤리적인 로봇을 개발하려면 먼저 인간이 어떻게 윤리적인 결정을 내리는지 이해해야 한다고 보는 것입니다.
당신이 2030년에 자율주행차를 타고 한적한 도로를 달리고 있다고 상상해보자.
우리가 생각해 봐야 할 질문은?
1. 보행자가 임신부이고 차 주인인 당신은 노년의 남자라면 어떻게 할까?
2. 어린아이가 공을 쫓아 뛰어들었다면 어떻게 할까?
3. 혹은 차가 잠깐 보행자와 차 주인의 신뢰 점수를 확인하고 누가 더 사회에서 신뢰할 만한 구성원인지 판단할 수 있다면 어떻게 할까?
여기에 프로그래머가 직면하는 중대한 과제가 있다.
바로 예견되거나 예견되지 않은 무수한 상황에 대한 알고리즘을 작성하는 과제이다.
결국 책임은 인간에게 있다.
무엇보다 흥미로운 결과는 개인의 선택에 관한 부분이다.
대다수의 참가자가 남들은 공익을 우선하는 자율주행차를 구입하기를 바라면서도 특수한 상황에서 자기를 희생시키도록 설정된 차를 구입하겠냐는 질문에는 선뜻 답하지 못했다고 한다.
인생을 알파벳으로 표현한 20세기 대표적인 실존주의 철학자 장 폴 사르트르가 한 말이다.
인생은 "B"와 "D" 사이인 "C"다
: (B)Birth와 (D)Death의 사이인 (C)Choice다, 인생은 매 순간이 '선택'이다.
https://blog.naver.com/kte827/221600699233
인생은 B와 D 사이 다
(B)Birth와 (D)Death의 사이인(C)Choice다20세기 대표적인 실존주의 철학자 장 폴 사르트르가 한말...
blog.naver.com
아주 작은 습관의 힘(제임스클리어 저) 에서는
끓는 물은 감자를 무르게 만들지만 달걀은 단단하게 만든다. 우리는 자신이 감자인지 달걀인지 결정할 수 없지만, 더 단단해지는 게 나은 게임과 더 물러지는 게 나은 게임 중 어느 쪽을 선택할 것인지 결정할 수는 있다.
바로 책임과 선택을 할 수 있는 인간이라는 것이다.
https://blog.naver.com/kte827/221598231277
자신이 되고 싶은 사람이 되는 인생조언!
#아주작은습관의힘 #제임스클리어 #재독 #서평 #책추천 #책모임 #책 #독서#체인지그라운드 #씽큐베이션 #씽...
blog.naver.com
미래에는...
이제 우리의 자녀들은 운전을 배울일이 없을 것이고 승마처럼 운전도 취미가 될수 있고, 언젠가 사람이 직접 운전하려면 특별 허가를 받아야 할 날이 올 수 도 있겠다고 한다. 그 때가 되면 인간운전자가 자율주행차에 탄 사람들에게 위협이 될 것이다. 기계에 대한 신뢰는 갈수록 높아져 인간보다 기계를 훨씬 더 신뢰하는 경우도 생길 것이다.
나아가 다음 세개는 가정과 학교와 병원과 연애를 자율 에이전트가 대신 결정해주는 시대에서 자랄지도 모른다.
우리가 로봇을 지나치게 신뢰하는 걸까? 라고 묻게 될 것이고, 시스템을 충분히 믿지 않아서 문제가 아니라 지나치게 믿어서 위험해 질수 있는 시대가 온다고 한다.
로봇의 과잉복종도 문제다. 로봇은 인간에게 피해를 주거나 불법적인 행위를 지시하는 인간의 명령에 무조건 따르지 않고 "싫다"라고 말하는 기능을 갖추어야 한다. 예로 형제자매끼리 가정용 로봇에게 동생의 머리에 공을 던지라고 시키는 것을 원하는 부모는 없을 것이다.
그렇다면 우리는?
기계의 역할이 정확히 무엇이고, 능력의 한계는 어디까지이며, 우리가 나설 때가 언제인지 판단 할 수 있는 정교한 감각을 길러야 한다. 바로 책을 읽어 통찰력을 길러야 한다.
"누구를 믿을 수 있는가?"란 질문은 인간의 결정에 관한 문제로 귀결된다. 기술은 우리가 더 좋고 더 새로운 선택을 하도록 도와줄 수 있지만, 결국 누구를 신뢰할 것인가, 우리의 신뢰를 받을 자격이 있는 상대가 누구인가, 우리의 신뢰를 받을 자격이 있는 상대가 누구인가, 라는 질문의 해답을 찾는 주체는 바로 우리 자신이다.
머신,플랫폼,크라우드(저자 앤드루맥아피, 에릭 브릭욜프슨)에서는
사람들의 판단력을 활용해야 한다고 했다. 바로 하드웨어,소프트웨어,네트워크도 가득한 세계에서도
사람은 판단능력 덕분에 여전히 가치가 있다는 믿음이다
https://blog.naver.com/kte827/221529798651
인간은 기계에게 밀려날것인가(머신 플랫폼 클라우드)
* 머신 플랫폼 크라우드 책 포인트* 트리플레볼루션1.머신혁명 : 인간은 기계에게 밀려날 것인가2.플랫폼...
blog.naver.com
저자는 TED강연에서 이렇게 얘기했다.
우버와 디디는 초기단계이지만 어떻게 기술이 이전에는 불가능했던 방식과 스케일로 사람들 사이에 신뢰를 형성하는지를 보여주는 강력한 예입니다.
오늘날, 많은 사람이 낯선 사람이 모는 차를 타는걸 편하게 생각하고 사람들을 만나며 Swipe right (Tinder의 매칭툴)를 합니다.
그리고 모르는 사람들과 집을 공유합니다.
이건 시작일 뿐입니다.
진짜 변혁을 일으키는 건 기술이 아니라 기술이 만드는 신뢰의 변화이기 때문입니다.
저는 사람들이 이 새로운 신뢰의 시대를 이해해서 바르게 이용하고 투명하고 수용적이며 책임있는 이 시스템의 기회를 받아들이도록 돕고 싶다고 하였다.
Transcript of "We've stopped trusting institutions and started trusting strangers"
TED Talk Subtitles and Transcript: Something profound is changing our concept of trust, says Rachel Botsman. While we used to place our trust in institutions like governments and banks, today we increasingly rely on others, often strangers, on platforms like Airbnb and Uber and through technologies ...
www.ted.com