고삐 풀린 AI, 더 늦기 전에 규제하자

• 챗GPT는 유창하게 그럴듯한 거짓말을 쏟아내는 환각(hallucination) 현상을 보여주고 있다. 인공지능은 논리나 진실에 관계없이 추론할 뿐 자신이 무엇을 하고 있는지 인식하지 못한다. 환각 현상 등의 부작용은 근본적 해결이 쉽지 않다는 것이 중론이다.

• 일자리 불안도 확산하고 있다. 지금까지는 대체로 사라지는 일자리보다 새로운 일자리가 더 많았다. 하지만 인공지능이 고도의 지적노동, 심지어 예술·창작의 영역까지 침범하면서 일의 미래가 위협받고 있다.

• 채용이나 승진과 같이 인간의 운명을 좌우하는 영역에서도 알고리즘에 의해 결정이 이뤄진다. 채용 인공지능은 여러 나라에서 ‘고위험군’으로 분류되고 있다. 하지만 한국에서는 공정성을 명분으로 인공지능 면접이 확산되는 추세다.

• 최근에는 학습 데이터세트에 포함된 저작물의 공정이용 이슈가 확산하고 있다. 결국 저작권 문제가 해결된 데이터를 비싼 비용을 지불하고 감당할 수 있는 소수의 기업만이 살아남을 수 있으며 이는 더 강력한 독점으로 이어질 수 있다.

• 미국에서는 내년 대선을 앞두고 생성형 인공지능으로 제작된 딥페이크(Deep Fake)와 허위정보 확산이 중요한 이슈로 부각되고 있다.  

• 로맨스(Romance)와 신용사기를 의미하는 스캠(Scam)의 합성어. SNS이나 이메일 등 온라인으로 접근하여 재력, 외모 등 거짓 정보로 신뢰와 호감을 형성하고 각종 이유로 금품을 뜯어내는 수법을 말한다.
• 최근 피해 건수와 금액이 급증하고 있다. 국정원 112콜센터에 접수된 신고는 최근 5년 동안 5배 늘었다. 여성이 71.4%, 20~30대가 87.5%를 차지했다는 경찰청 통계도 있다. 유형별로는 환전사기, 비용대납, 코인투자 순으로 나타났다. 미국도 지난 5년간 피해자가 4배나 증가했다며 FBI가 주의를 당부하기도 했다.
• 피해자가 사기범을 처음 만나는 곳은 대부분 SNS, 메신저 또는 소개팅 앱이었다. 인스타그램이 가장 많았고 소개팅 앱 위피가 뒤를 이었다.
• 예멘이나 이라크 파병 군인이라며 접근하는 외국인이 있다면 조심하시라.

👩‍💼👨‍💼 소셜 코리아를 만드는 사람들 

운영위원장 윤홍식(인하대학교 사회복지학과 교수)

운영위원 권혜원(동덕여자대학교 경영학과 교수) 김명희(국립중앙의료원 데이터센터장) 김영순 (서울과학기술대학교 기초교육학부 교수) 김영미(연세대학교 사회학과 교수) 김정희원(애리조나주립대 커뮤니케이션학과 교수) 김철운((재)공공상생연대기금 집행위원장) 남종석(경남연구원 연구위원) 박정은(참여연대 정책위원장) 신진욱(중앙대학교 사회학과 교수) 오기출(푸른아시아 상임이사) 윤자영(충남대학교 경제학과 교수) 이수현(킹스 칼리지 런던 정치경제학부 교수) 이창곤(한겨레신문 선임기자) 조현재(데이터 분석가) 주병기(서울대학교 경제학부 교수) 한귀영(한겨레경제사회연구원 사회정책센터장) Hannes Mosler(뒤스부르크-에센 대학교 정치학과 교수) Timo Fleckenstein(런던 정치경제대학교 사회정책학과 교수)

책임편집위원 김중배(독립언론인)

고문 신광영(중앙대학교 사회학과 명예교수) 이병훈((재)공공상생연대기금 이사장)

책임에디터 박형영(위키스토리 대표)   관리 강남규((재)공공상생연대기금 과장)