인공지능이 결과를 이해해야 하는 이유

Neil Savage는 매사추세츠주 로웰에서 프리랜서 작가로 활동하고 있습니다.

PubMed Google Scholar에서도 이 저자를 검색할 수 있습니다.

크레딧: Neil Webb

귀하는 귀하의 교육기관을 통해 이 기사에 대한 전체 접근 권한을 갖습니다.

Rohit Bhattacharya가 컴퓨터 과학 박사 학위를 시작했을 때 그의 목표는 의사가 면역 요법에 잘 반응하는 암 환자를 식별하는 데 도움이 되는 도구를 만드는 것이었습니다. 이러한 형태의 치료는 신체의 면역 체계가 종양과 싸우는 데 도움이 되며, 면역 세포가 결합할 수 있는 단백질을 생성하는 악성 성장에 가장 효과적입니다. Bhattacharya의 아이디어는 종양과 사람의 면역 체계의 유전학을 프로파일링할 수 있는 신경 네트워크를 만든 다음 어떤 사람이 치료로 혜택을 받을 가능성이 있는지 예측하는 것이었습니다.

그러나 그는 자신의 알고리즘이 작업에 적합하지 않다는 것을 발견했습니다. 그는 면역 반응과 상관관계가 있는 유전자의 패턴을 식별할 수 있었지만 그것만으로는 충분하지 않았습니다1. "이러한 특정 결합 패턴이나 유전자의 특정 발현이 면역요법에 대한 환자의 반응을 결정하는 원인이라고 말할 수는 없습니다."라고 그는 설명합니다.

자연 전망의 일부: 로봇 공학 및 인공 지능

Bhattacharya는 상관관계가 인과관계와 동일하지 않다는 오래된 격언, 즉 인공 지능(AI)의 근본적인 걸림돌에 의해 어려움을 겪었습니다. 컴퓨터는 데이터에서 패턴을 찾아내도록 훈련될 수 있으며, 인간이 놓칠 수 있을 정도로 미묘한 패턴도 찾아낼 수 있습니다. 그리고 컴퓨터는 이러한 패턴을 사용하여 예측을 할 수 있습니다. 예를 들어 폐 엑스레이의 점은 종양을 나타냅니다2. 그러나 원인과 결과에 관한 한 기계는 일반적으로 어려움을 겪습니다. 그들은 세상이 어떻게 돌아가는지에 대한 상식적인 이해가 부족합니다. 예를 들어, 폐 엑스레이에서 질병을 발견하도록 훈련된 AI 프로그램은 때때로 이미지의 오른쪽에 라벨을 붙이는 데 사용되는 표시에 초점을 맞춰 길을 잃었습니다3. 엑스레이에서 문자 'R'의 스타일과 위치와 폐질환의 징후 사이에 인과관계가 없다는 것은 적어도 사람에게는 명백합니다. 그러나 그러한 이해가 없으면 그러한 표시가 그려지거나 배치되는 방식의 차이로 인해 기계가 잘못된 경로로 조종될 수 있습니다.

컴퓨터가 어떤 종류의 의사 결정을 내리려면 인과 관계에 대한 이해가 필요하다고 인디애나 주 웨스트 라파예트에 있는 퍼듀 대학의 전기 엔지니어인 Murat Kocaoglu는 말합니다. "예측 이상의 모든 것에는 일종의 인과관계 이해가 필요합니다."라고 그는 말합니다. "뭔가를 계획하고 싶다면, 최선의 정책을 찾고 싶다면 일종의 인과 추론 모듈이 필요합니다."

원인과 결과 모델을 기계 학습 알고리즘에 통합하면 모바일 자율 기계가 세상을 탐색하는 방법에 대한 결정을 내리는 데 도움이 될 수도 있습니다. "당신이 로봇이라면 이 각도나 저 각도로 여기로 발걸음을 내디딜 때, 또는 물체를 밀면 어떤 일이 일어날지 알고 싶을 것입니다"라고 Kocaoglu는 말합니다.

Bhattacharya의 경우 시스템이 강조한 일부 유전자가 치료에 대한 더 나은 반응을 담당했을 가능성이 있습니다. 그러나 인과관계에 대한 이해가 부족하다는 것은 치료가 유전자 발현에 영향을 미치거나, 또 다른 숨겨진 요인이 두 가지 모두에 영향을 미칠 수도 있다는 것을 의미했습니다. 이 문제에 대한 잠재적인 해결책은 인과 추론, 즉 한 변수가 다른 변수에 영향을 미치는지 여부를 확인하는 형식적이고 수학적 방법입니다.

컴퓨터 과학자 Rohit Bhattacharya(뒤)와 매사추세츠 주 윌리엄스타운에 있는 Williams College의 그의 팀은 인과 추론을 위한 기계 학습 적용에 대해 논의합니다. 제공: Mark Hopkins

인과 추론은 경제학자와 전염병학자들이 인과 관계에 대한 생각을 테스트하기 위해 오랫동안 사용해 왔습니다. 2021년 노벨 경제학상은 인과 추론을 사용해 최저 임금 인상이 고용 감소로 이어지는지, 1년 추가 교육이 미래 소득에 어떤 영향을 미치는지 등의 질문을 던진 세 명의 연구자에게 돌아갔습니다. 이제 Bhattacharya는 AI와 인과성을 결합하여 기계가 이러한 문제를 해결할 수 있는 능력을 부여하고 더 나은 결정을 내리고 더 효율적으로 학습하며 변화에 적응할 수 있도록 노력하는 점점 더 많은 컴퓨터 과학자 중 한 명입니다.