AI 훈련을 받은 로봇은 인종차별적이고 성차별적인 행동을 보였습니다.

최근 실험의 일환으로 과학자들은 특별히 프로그래밍된 로봇에게 사람의 얼굴이 있는 블록을 스캔한 다음 "범죄자"를 상자에 넣도록 요청했습니다. 로봇은 흑인의 얼굴이 있는 블록을 반복해서 선택했습니다.

인기 있는 인공 지능 알고리즘으로 프로그래밍된 가상 로봇은 해당 질문 및 기타 질문에 응답하기 위해 수십억 개의 이미지와 관련 캡션을 정렬했으며, 연구원에 따르면 로봇이 성차별적이고 인종차별적일 수 있다는 최초의 실증적 증거를 나타낼 수 있다고 합니다. 계속해서 로봇은 여성과 유색 인종이 포함된 블록을 선택하여 "주부" 및 "관리인"과 같은 단어에 응답했습니다.

존스 홉킨스 대학과 조지아 공과대학 등 기관이 지난달 발표한 이 연구는 인공지능 시스템에 내장된 인종차별적, 성차별적 편견이 이를 활용해 작업을 안내하는 로봇으로 전환될 수 있음을 보여줍니다.

기업들은 선반 비축, 물품 배달, 병원 환자 돌보기 등의 작업에서 인간을 대체하는 데 도움이 되는 더 많은 로봇을 개발하는 데 수십억 달러를 투자해 왔습니다. 팬데믹과 그에 따른 노동력 부족으로 인해 전문가들은 현재 로봇공학의 분위기를 일종의 골드러시라고 묘사합니다. 그러나 기술 윤리학자와 연구자들은 기술이 더욱 발전하고 보편화됨에 따라 신기술의 빠른 채택이 향후 예상치 못한 결과를 초래할 수 있다고 경고하고 있습니다.

콜로라도 주립대학교 공급망 관리 교수인 Zac Stewart Rogers는 "코딩을 사용하면 기존 소프트웨어 위에 새 소프트웨어를 구축하는 경우가 많습니다."라고 말했습니다. "그래서 로봇이 더 많은 일을 하고 결함이 있는 뿌리 위에 구축되는 지점에 도달하면 우리가 문제에 직면하는 것을 확실히 볼 수 있습니다."

월마트가 로봇으로 전환함에 따라 기계처럼 느껴지는 것은 인간 노동자들입니다.

최근 몇 년 동안 연구자들은 편향된 인공 지능 알고리즘의 여러 사례를 문서화했습니다. 여기에는 흑인과 라틴계 사람들이 저지르지 않은 범죄에 대해 부당하게 표적으로 삼는 범죄 예측 알고리즘과 유색인종을 정확하게 식별하는 데 어려움을 겪는 안면 인식 시스템이 포함됩니다.

그러나 지금까지 로봇은 좀 더 중립적인 것으로 인식되어 정밀한 조사에서 많이 벗어났다고 연구원들은 말합니다. 그 중 일부는 그들이 수행하는 작업의 때때로 제한된 특성에서 비롯됩니다. 예를 들어 창고 바닥에서 물품을 옮기는 것입니다.

언어 모델에서 인종적 고정관념을 연구하는 모질라 재단(Mozilla Foundation)의 선임 연구원인 아베바 비르하네(Abeba Birhane)는 로봇이 여전히 문제가 있는 유사한 기술로 작동하고 나쁜 행동을 보일 수 있다고 말했습니다.

"로봇 시스템의 경우 알고리즘 시스템에 비해 객관적이거나 중립적인 개체로 전달될 가능성이 있습니다."라고 그녀는 말했습니다. "이것은 그들이 가하는 피해가 앞으로도 오랫동안 눈에 띄지 않을 수 있다는 것을 의미합니다."

한편, 자동화 산업은 로봇공학에 힘입어 10년 안에 180억 달러에서 600억 달러로 성장할 것으로 예상된다고 Rogers는 말했습니다. 산업 무역 그룹인 자재 취급 연구소(Material Handling Institute)에 따르면 향후 5년 동안 창고에서 로봇의 사용이 50% 이상 증가할 것으로 예상됩니다. 지난 4월 아마존은 로봇 회사에 막대한 투자를 하는 혁신 펀드에 10억 달러를 투자했습니다. (아마존 창업자 제프 베조스는 워싱턴포스트를 소유하고 있습니다.)

워싱턴대학교와 독일 뮌헨 공과대학교 구성원이 포함된 로봇 속 AI를 연구하는 연구팀은 오픈AI가 지난해 개발해 공개한 대규모 언어 인공지능 모델인 CLIP에서 가상 로봇을 훈련시켰다.

객체를 시각적으로 분류하는 인기 모델은 인터넷에서 수십억 개의 이미지와 텍스트 캡션을 스크랩하여 구축되었습니다. 아직 초기 단계이지만, 로봇 회사가 처음부터 자체 소프트웨어를 만드는 것보다 사용하는 것이 더 저렴하고 노동 집약적이므로 잠재적으로 매력적인 옵션이 됩니다.