2021.01.12 (화)

  • 맑음동두천 0.0℃
  • 맑음강릉 3.4℃
  • 구름많음서울 -1.0℃
  • 맑음대전 3.0℃
  • 맑음대구 2.3℃
  • 맑음울산 4.0℃
  • 맑음광주 2.4℃
  • 맑음부산 3.2℃
  • 맑음고창 3.0℃
  • 구름많음제주 5.8℃
  • 구름많음강화 -0.6℃
  • 구름조금보은 -0.1℃
  • 구름조금금산 2.0℃
  • 구름많음강진군 5.1℃
  • 맑음경주시 3.2℃
  • 맑음거제 4.3℃
기상청 제공

IT·통신

윤영찬 ‘카카오 항의’가 불지핀 AI 공정성 논란... “검증 시스템 도입 필요해”

영국 정부, 대입시험에 AI 알고리즘 대입 논란... 가난한 학생은 더 낮은 점수 받아"
미국 아마존, 인공지능 채용 시스템 도입 취소... 이력에'여성' 단어 적히면 감점돼

 


[폴리뉴스 성소의 기자] 윤영찬 더불어민주당 의원의 ‘카카오 항의’ 논란이 인공지능 알고리즘의 중립성 논란으로까지 번지고 있다. 앞서 카카오와 네이버 등 인터넷 뉴스 서비스 사업자들은 뉴스 편집에 외압이 작용할 수 있냐는 논란에 대해 “뉴스 편집은 100% 인공지능 알고리즘이 한다”고 선을 그었다. 그러나 다음 창업자였던 이재웅 전 쏘카 대표가 “인공지능은 가치중립적이지 않다”고 알고리즘의 편향 가능성에 대해 문제를 제기하면서 인공지능 알고리즘의 중립성 논란에 불을 지폈다. 

이 전 대표는 9일 자신의 페이스북을 통해 “많은 사람들이 인공지능은 가치중립적이라고 생각하지만 그렇지 않다. 규칙 기반의 인공지능은 그 시스템을 설계하는 사람의 생각이 반영될 수 없다”며 인공지능 기반의 알고리즘이 사람을 대신해 공정하고 객관적인 판단을 내릴 것이라는 전제에 의문을 제기했다. 

그는 “인공지능 시스템은 회사가 원하는 인재상을 학습한다. 만약 그 회사에 남성이 70%, X대를 졸업한 사람이 50%에 달한다면 인공지능이 점수를 높게 준 지원자는 X대를 졸업한 남성일 경우가 높다”고 지적했다. 인공지능 알고리즘이 사회적으로 편향된 데이터를 바탕으로 학습하기 때문에 특정 성별, 인종, 계층에 차별적인 결과를 도출할 수 있다는 것이다.

해외에서도 인공지능 알고리즘의 공정성을 둘러싼 논란이 뜨겁다.

영국은 지난 8월 코로나19의 영향으로 대입시험을 치르지 않는 대신 인공지능 알고리즘을 기반으로 수험생들의 예상 성적을 산출해 대학입시에 활용했다. 그러나 전체 수험생의 40%가 예상보다 성적이 낮게 나와 논란을 빚었다. 특히 고소득층 학생들은 높은 학점이 주어진 반면 저소득층 학생들은 낮은 학점이 주어져 인공지능이 불평등을 강화한다는 지적이 제기됐다. 

미국 국립표준기술연구소(NIST)는 지난 해 12월 안면 인식 기술에 활용되는 인공지능 대다수가 편향된 데이터를 가지고 있다는 보고서를 발간해 논란이 일기도 했다. 국립표준기술연구소가 미국의 정부기관들과 인텔, 마이크로소프트, 파나소닉 등 주요 IT 기업들이 활용하고 있는 알고리즘을 분석한 결과에 따르면 인공지능이 범죄자를 판별할 때 아시아인과 아프리카계를 잘못 알아볼 확률이 백인 남성보다 월등하게 높았다. 알고리즘이 백인 인종에 편향된 데이터를 학습한 결과다. 

2018년에는 미국의 온라인 쇼핑몰 아마존이 자사 채용 시스템에 인공지능 알고리즘 접목하려다 여성에게 차별적인 결과를 산출하는 것으로 드러나 도입을 취소한 바 있다. 알고리즘이 지난 10년 동안 남성 중심인 IT업계의 채용 동향을 학습하고 여성 지원자에게 불리한 평가를 내린다는 결과였다. 지원자의 이력서에 ‘여성’이란 단어가 포함된 동아리 이름이 기재돼있으면 감점하는 식이다. 문제가 제기되자 아마존은 인공지능 알고리즘을 활용한 채용 시스템 도입을 취소했다.    

윤 의원이 불지핀 알고리즘 중립성 논란을 계기로 네이버와 카카오 등 IT기업과 정부가 나서서 알고리즘을 검증할 수 있는 시스템을 도입해야 한다는 목소리가 나온다.

한국인공지능윤리협회는 14일 성명서를 내고 “AI 기술은 아직 발전 중에 있는 기술로서 윤리적으로 지켜야 할 명확한 개발 가이드라인과 지침이 부족하다”며 “AI 알고리즘의 중립성을 판단하고 검증할 수 있는 시스템과 검증하고 가이드 할 수 있는 중립적 기구가 절실히 필요하다”고 촉구했다. 









[21대 국회 빛나는 초선] 정태호 민주당 전략기획위원장 ③ "안철수 서울시장 출마는 '궁여지책', 국민의힘은 딜레마"
[폴리뉴스 대담 김능구 대표, 정리 이승은 기자] 내년 4월 7일 보궐선거 더불어민주당 선거기획단 간사와 민주당 전략기획위원장를 맡은 정태호 의원은 부동산 문제와 서울시장선거의 관계에 대해 "이 문제를 잘 해결하는 것이 중요하다. 그래서 변창흠 국토교통부 내정자(현 장관) 역할이 굉장히 중요하다"며 "그분의 능력과 부동산 문제 해결에 대한 정책적 능력을 봐줬으면 좋겠다"고 말했다. 정태호 의원은 23일 국회 의원회관에서 진행된 폴리뉴스 창간 20주년 기념 빛나는 초선 특집 인터뷰에서 내년 4‧7 서울시장 보궐선거와 관련해 자신의 생각을 밝혔다. 정 의원은 변 내정자(현 장관)에 대해 "모든 사람이 집을 지을 때가 없다고 하는데, 변 장관은 집 지을 곳이 많다고 한다"며 "수십만 채가 공급이 가능하다고 한다. 박근혜 대통령 때는 부동산 공급 정책이 전혀 없었다. 입주하는 아파트가 없었다. 변 장관은 공급에 대해 해법을 가지고 있는 분이기 때문에, 적어도 부동산에 대해선 최고 전문가다. 땅은 안 보이지만, 어떻게 땅을 만들 수 있는지를 알고 있는 분"이라고 평가했다. 최근 안철수 국민의당 대표가 서울시장 출마 선언을 한 것에 대해서 정 의원은 "그 분은 정치할

[카드뉴스] K뉴딜, 지속가능한 경제사회로의 전환

코로나는 인류에게 공통의 시험문제를 주었다. 新문명의 주인공, 누가 될 것인가? 코로나가 던지는 질문: 인간이란 무엇인가? 마스크 없이 사는 세계 최초의 나라 한국판 뉴딜 전략 삶의 질 1등 국가 -내 삶을 바꾸는 뉴딜, 내 지역을 바꾸는 뉴딜, 한반도의 미래를 바꾸는 뉴딜 새로운 나라, 문명 창조 국가 한국판 뉴딜 자신감을 갖자 변방의 진(秦)은 중국을 창조 후진국 반도국가 그리스는 서양의 기원을 잉태 저지대의 작은 땅 네덜란드, 자본주의와 근대 서양의 시작 한국판 뉴딜로 진화하자 호모 사피엔스(“지혜로운 인간”) 한국판 뉴딜 성공한다면 싱가포르식 선진 시스템 도입 ⇒ 한국 경제규모 3조6천억 달러 실리콘밸리식 혁신 경제 ⇒ 한국 경제규모 6조 달러(세계 3위) 네덜란드식 스마트 팜 ⇒ 한국 농촌 세계 농업 수출 확대 데이터 댐을 통한 국민 건강 부문의 변화 디지털 집현전: 공공도서관을 학교, 마을, 국민들에게 자료의 신속한 디지털화 국가전자도서관의 고도화 → 체계적인 통합 전자도서관 구축 교육판 넷플릭스의 창조 한국판 뉴딜에 대한 우려① 너무 성급한 것 아닌가 -거대한 정책들이 성과를 보이기 위해서는 발전과 진화의 시간 필요(약 5~10년) · 루즈벨트의

[카드뉴스] 코로나19를 예방하는 방법

일상생활에서 5가지 전파위우험 조건에 유의하여 코로나19를 예방하는 방법 계속되는 코로나19 확산세에도 끝까지 방역에 참여하는 시민 여러분! 마스크 착용 유무, 접촉 시간, 환기 상태, 밀집도, 비말 발생 여건 등 5가지 전파위험 조건에 유의하여 일상생활에서 코로나19를 예방합시다. 1. 혼잡한 지하철에서 전화 통화하기 마스크 착용시 : 높음 마스크 미착용시 : 높음 2. 창문을 열어 둔 승용차에서 대화하기 마스크 착용시 : 낮음 마스크 미착용시 : 중간 3. 학교 교실에서 질문에 답하며 수업하기 마스크 착용시 : 중간 마스크 미착용시 : 높음 4. 야외카페에서 차 마시며 대화하기 마스크 착용시 : 낮음 마스크 미착용시 : 중간 5. 사람이 많은 극장에서 영화관람하기 마스크 착용시 : 높음 마스크 미착용시 : 높음 -서울시 공공보건의료재단 제공




배너