2021.05.01 (토)

  • 흐림동두천 8.5℃
  • 흐림강릉 10.6℃
  • 서울 11.1℃
  • 흐림대전 10.9℃
  • 흐림대구 12.9℃
  • 흐림울산 12.7℃
  • 흐림광주 10.5℃
  • 구름많음부산 13.2℃
  • 흐림고창 9.6℃
  • 흐림제주 12.2℃
  • 구름많음강화 12.7℃
  • 흐림보은 10.3℃
  • 흐림금산 12.3℃
  • 흐림강진군 11.8℃
  • 구름많음경주시 12.8℃
  • 흐림거제 11.7℃
기상청 제공

IT·통신

윤영찬 ‘카카오 항의’가 불지핀 AI 공정성 논란... “검증 시스템 도입 필요해”

영국 정부, 대입시험에 AI 알고리즘 대입 논란... 가난한 학생은 더 낮은 점수 받아"
미국 아마존, 인공지능 채용 시스템 도입 취소... 이력에'여성' 단어 적히면 감점돼

 


[폴리뉴스 성소의 기자] 윤영찬 더불어민주당 의원의 ‘카카오 항의’ 논란이 인공지능 알고리즘의 중립성 논란으로까지 번지고 있다. 앞서 카카오와 네이버 등 인터넷 뉴스 서비스 사업자들은 뉴스 편집에 외압이 작용할 수 있냐는 논란에 대해 “뉴스 편집은 100% 인공지능 알고리즘이 한다”고 선을 그었다. 그러나 다음 창업자였던 이재웅 전 쏘카 대표가 “인공지능은 가치중립적이지 않다”고 알고리즘의 편향 가능성에 대해 문제를 제기하면서 인공지능 알고리즘의 중립성 논란에 불을 지폈다. 

이 전 대표는 9일 자신의 페이스북을 통해 “많은 사람들이 인공지능은 가치중립적이라고 생각하지만 그렇지 않다. 규칙 기반의 인공지능은 그 시스템을 설계하는 사람의 생각이 반영될 수 없다”며 인공지능 기반의 알고리즘이 사람을 대신해 공정하고 객관적인 판단을 내릴 것이라는 전제에 의문을 제기했다. 

그는 “인공지능 시스템은 회사가 원하는 인재상을 학습한다. 만약 그 회사에 남성이 70%, X대를 졸업한 사람이 50%에 달한다면 인공지능이 점수를 높게 준 지원자는 X대를 졸업한 남성일 경우가 높다”고 지적했다. 인공지능 알고리즘이 사회적으로 편향된 데이터를 바탕으로 학습하기 때문에 특정 성별, 인종, 계층에 차별적인 결과를 도출할 수 있다는 것이다.

해외에서도 인공지능 알고리즘의 공정성을 둘러싼 논란이 뜨겁다.

영국은 지난 8월 코로나19의 영향으로 대입시험을 치르지 않는 대신 인공지능 알고리즘을 기반으로 수험생들의 예상 성적을 산출해 대학입시에 활용했다. 그러나 전체 수험생의 40%가 예상보다 성적이 낮게 나와 논란을 빚었다. 특히 고소득층 학생들은 높은 학점이 주어진 반면 저소득층 학생들은 낮은 학점이 주어져 인공지능이 불평등을 강화한다는 지적이 제기됐다. 

미국 국립표준기술연구소(NIST)는 지난 해 12월 안면 인식 기술에 활용되는 인공지능 대다수가 편향된 데이터를 가지고 있다는 보고서를 발간해 논란이 일기도 했다. 국립표준기술연구소가 미국의 정부기관들과 인텔, 마이크로소프트, 파나소닉 등 주요 IT 기업들이 활용하고 있는 알고리즘을 분석한 결과에 따르면 인공지능이 범죄자를 판별할 때 아시아인과 아프리카계를 잘못 알아볼 확률이 백인 남성보다 월등하게 높았다. 알고리즘이 백인 인종에 편향된 데이터를 학습한 결과다. 

2018년에는 미국의 온라인 쇼핑몰 아마존이 자사 채용 시스템에 인공지능 알고리즘 접목하려다 여성에게 차별적인 결과를 산출하는 것으로 드러나 도입을 취소한 바 있다. 알고리즘이 지난 10년 동안 남성 중심인 IT업계의 채용 동향을 학습하고 여성 지원자에게 불리한 평가를 내린다는 결과였다. 지원자의 이력서에 ‘여성’이란 단어가 포함된 동아리 이름이 기재돼있으면 감점하는 식이다. 문제가 제기되자 아마존은 인공지능 알고리즘을 활용한 채용 시스템 도입을 취소했다.    

윤 의원이 불지핀 알고리즘 중립성 논란을 계기로 네이버와 카카오 등 IT기업과 정부가 나서서 알고리즘을 검증할 수 있는 시스템을 도입해야 한다는 목소리가 나온다.

한국인공지능윤리협회는 14일 성명서를 내고 “AI 기술은 아직 발전 중에 있는 기술로서 윤리적으로 지켜야 할 명확한 개발 가이드라인과 지침이 부족하다”며 “AI 알고리즘의 중립성을 판단하고 검증할 수 있는 시스템과 검증하고 가이드 할 수 있는 중립적 기구가 절실히 필요하다”고 촉구했다. 








[폴리 4월 좌담회 전문 ④] 본격적인 대선정국, 잠룡 기지개에 개헌론 등장
<폴리뉴스>와 월간 <폴리피플>은 지난 4월21일 “4.7재보선 이후, 대선 앞으로 가속도 높이는 여야 정계개편”을 주제로 좌담회를 가졌다. 이날 좌담회에는 홍형식 한길리서치 소장, 차재원 부산 가톨릭대학교 특임교수, 황장수 미래경영연구소장, 그리고 본지 김능구 폴리뉴스 대표가 참석했다. 김능구 : 민주당과 국민의힘의 보선 이후 전망을 했는데, 이제는 대선 정국으로 성큼 들어서고 있다. 각 당들이 전당대회를 통해서 대선을 치를 체제를 구축하고 있는데, 실제로 5월 전당대회를 통해서 곧바로 대선 정국으로 가고 특히 민주당 같은 경우는 경선이 불과 3개월밖에 남지 않았다. 어쨌든 현재 대선 여론조사에서 보면 조금씩 차이들은 있지만 양강 구도로 보여진다. 홍형식 : 2강 1중으로 봐야될 것 같다. 갤럽은 아직도 비보조 인지도 조사라고 해서 주관식 형태로 하는데, 조사방법에 따라서 수치의 차이가 조금씩 다르기는 해도 2강 1중, 어떤 데서는 양강 이렇게 표현이 나온다. 어찌됐든 이번 재보궐 선거 이후 지지율의 흐름을 보면, 야당 쪽에는 윤석열은 반문 세력이 지지하는 거라고 예상이 됐던 거고, 여권에서는 약간의 지지율변화가 눈에 띈다. 비문 성향


[카드뉴스] 팽팽한 찬반 논란의 '지역상권법'…뭐길래

[폴리뉴스 김미현 기자] ‘지역상권 상생 및 활성화에 관한 법률안(지역상권법)’제정을 놓고 찬반 의견이 팽팽하게 맞붙고 있습니다. 이 법은 지역상생구역이나 자율상권구역으로 지정된 지역에 스타벅스 같은 대기업 계열 점포의 출점을 제한하는 것이 골자입니다. 대상은 유통산업발전법(유통법)과 중소기업 적합업종제도 등에 포함되지 않아 규제를 받지 않는 대기업입니다. 법안이 시행될 경우대기업이 운영하는 직영 점포의 신규 매장을 열기 위해서는 지역상인의 동의를 받아야 합니다. 이는 임대료 상승에 따른 소상공인의 내몰림 현상(젠트리피케이션) 문제를 막고자 마련됐습니다. 복합 쇼핑몰이 들어오면 주변 임대료가 뛰는 경향이 있습니다. 하지만 이를 두고 유통업계는 소비자들의 편의성을 떨어뜨리는 과도한 중복 규제라고 반발에 나섰습니다. 또 재산권과 영업의 자유를 침해하는데다 대기업 프랜차이즈보다 자영업체의 고용률이 낮아질 가능성도 우려하고 있습니다. 하지만 지역상권의 특색을 유지하기 위해서는 해당 법안의 제정이 필요하다는 의견도 나옵니다. 소상공인과 대기업 모두'상생'을 이룰 수 있는정책이 절실한 때입니다.

[카드뉴스] 日 원전 오염수 방류 결정… “안전성 불확실”

[폴리뉴스 김유경 기자]日 원전 오염수 방류 결정… “안전성 불확실” 최근 일본이 후쿠시마 제1핵발전소 물탱크에 보관하고 있던 방사능 오염수 125만톤을 30년에 걸쳐 방류하겠다고 발표했습니다. 방사성 물질 농도를 법정 기준치 이하로 낮추고 천천히 방류할 것이니 상관없다고 합니다. 오염수에는 유전자 변형, 생식기능 저하 등을 일으킬 수 있는 삼중수소(트리튬)가 들어 있습니다. 삼중수소가 바다에 뿌려지면 한국 중국 등 인근 국가 수산물에 흡수돼 이를 섭취한 인간에게 치명적인 영향을 끼칠 수 있습니다. 또 스트론튬90은 극소량으로도 골육종이나 백혈병을 일으킬 수 있다고 합니다. 일본은 안하무인입니다. 한 고위관료는 “중국과 한국 따위에는 (비판을) 듣고 싶지 않다”고 발언했습니다. 미국은 “국제 안전 기준에 따른 것”이라며 일본에지지 입장을 밝혔습니다. 정작 후쿠시마 사고 이후 현재까지 사고 부근 농수산물 수입을 금지하고 있으면서 말입니다. 그런데 우리 정부는 지난해 10월 “일본의 ALPS장비 성능에 문제가 없고 오염수 방류가 큰 위협이 되지 않는다”는 보고서를 냈다고 합니다. 안심할 수 있는 안전대책, 기대할 수 있을까요?




배너