최근 인공지능(AI) 기술의 급속한 발전은 의료 분야의 혁신을 크게 촉진하고 있다. 그중에서도 영상 진단 지원이나 자연언어 처리를 이용한 진료 기록의 분석에 더해, 생체 신호를 대상으로 한 AI 응용이 주목을 받고 있다. 심전도나 뇌파, 근전도, 호흡 파형 등과 같은 생체 신호는 침습성이 낮고, 연속적이며 또한 비언어적으로 생체 상태를 파악하는 수단으로서 임상뿐 아니라 헬스케어의 광범위한 영역에서 활용이 진행되고 있다.

 

한편, 이러한 신호들은 그 복잡성과 비선형성 때문에 전통적인 통계 기법으로는 충분히 이해·분석하는 것이 어려운 경우가 많아, 블랙박스적인 AI 알고리즘에 의존할 수밖에 없는 상황도 적지 않다. 이러한 배경하에서 ‘AI가 왜 그러한 판단을 내렸는가’라는 질문은 의료라는 높은 안전성·신뢰성과 설명 책임이 요구되는 분야에서 더욱 심각한 문제가 된다.

 

이러한 과제에 대해, 표현학습(representation learning)이라는 개념·접근법은 매우 밀접하게 관련된다. 관측 데이터로부터 의미 있는 특징을 자동 추출하고, 하류 태스크에 도움이 되도록 정보를 압축하거나 재구성하는 기법군을 총칭하여 표현학습이라고 한다. 특히 자기지도학습이나 대조학습 등과 같은 최근의 발전에 힘입어, 라벨에 의존하지 않고 구조적인 이해를 동반하는 표현의 획득이 가능해지고 있다.

 

이 글에서는 이 표현학습을 통해 얻을 수 있는 특징 표현에 주목하여, 그것이 어떻게 생체 신호의 이해와 의료 AI의 신뢰성 향상에 기여할 수 있는지 고찰한다. 또한 표현이 어떤 구조로 결정되는지를 탐구하기 위해 ‘특정 가능성(identifiability)’이라는 관점을 도입하여, AI 안에 숨겨진 의미의 구조를 밝혀내는 시도에 대해서도 소개하고자 한다.

 

의료 AI의 미개척 영역에서 표현학습은 단순한 성능 향상을 위한 수단에 그치지 않고, 인간과 AI 간 상호 이해의 열쇠가 될 수 있다. 이 글이 그 일부를 담당하길 바라며, 이하에서 이론적 배경을 교차시키면서 논의를 진행해 간다.

 

생체 신호와 그 어려움

 

1. 의료 AI에서 생체 신호의 역할

생체 신호는 개체의 내부 상태를 비침습적이고, 또한 실시간으로 관측할 수 있는 정보원으로서 의료 현장에서 매우 중요한 역할을 하고 있다. 심전도(ECG), 뇌파(EEG), 근전도(EMG), 호흡 파형, 피부 전기 활동, 안구 운동 등 다양한 생체 신호는 환자의 진단이나 모니터링, 예후 평가에 널리 이용되고 있다.

 

특히 최근에는 이러한 신호를 대상으로 한 AI 모델의 개발이 진전되어 자동 진단 지원이나 이상 검지, 환자의 상태 추정 등과 같은 응용이 주목받고 있다. 예를 들어 ECG를 이용한 심방세동 자동 검출, EEG를 이용한 간질 발작의 예측이나 수면 단계의 분류, 호흡 신호에 의한 무호흡 검출 등이 그 실제 사례이다.

 

2. 생체 신호가 지닌 분석상의 어려움

그러나 생체 신호의 취급은 매우 어렵다. 그 주요 이유로는 이하와 같은 특성을 들 수 있다.

 

· 비정상성 : 생체 신호는 시시각각 변하며, 일정 주기나 규칙성을 갖지 않는다. 이것은 시간 주파수 분석이나 기계학습 모델의 구축에 있어 큰 과제가 된다.

· 고차원성 : 신호는 높은 샘플링률로 기록되기 때문에 1세션당 데이터량이 방대하여 특징 추출이나 압축이 필수적이다.

·노이즈와 아티팩트 : 근육의 움직임이나 전극의 어긋남, 주위의 전자적 간섭 등이 데이터에 혼입되어 진짜 신호를 보기 어렵게 한다.

· 개체차와 조건 의존성 : 연령, 성별, 체격, 정신 상태 등 다양한 요인이 신호에 영향을 주기 때문에 일반화 성능을 높이는 것이 어렵다.

 

이러한 복잡성 때문에 생체 신호 분석에는 도메인 지식에 기반한 전처리나 특징 설계가 필요하며, 기존의 룰 기반의 접근법으로는 대응이 어려운 경우가 많다.

 

3. 표현학습의 필요성

이러한 배경하에 자동적으로 특징을 추출하고 의미 있는 표현을 획득할 수 있는 AI 모델의 필요성이 높아지고 있다. 특히 생체 신호처럼 다양하고 복잡한 데이터에 대해서는 비지도 또는 자기지도의 표현학습이 강력한 도구가 된다.

 

· 노이즈에 강건한 압축 표현의 획득

· 시계열의 추상화와 구조 파악

· 개체차를 흡수하면서도 의학적으로 의미 있는 축의 추출

 

이들은 생체 신호의 AI 분석에서 다음 돌파구의 열쇠라고 생각된다. 이하에서는 표현학습이란 구체적으로 무엇을 의미하며, 어떤 이론과 기법이 있는지를 대략적으로 설명한다.

 

표현학습이란 무엇인가

 

1. 데이터의 구조·의미의 추출을 위한 표현학습

AI에서 ‘표현(representation)’이란 원시 데이터를 보다 다루기 쉽고 의미 있는 형태로 변환한 내부 표현을 말한다. 기존의 기계학습에서는 수작업에 의한 특징 설계(feature engineering)가 중시되었으나, 고차원·비선형의 데이터에 대해서는 자동적으로 유용한 표현을 학습하는 표현학습((representation learning)이 더욱 효과적인 수단이 되고 있다. 복잡한 생체 신호나 의료 영상도 예외는 아니다.

 

표현학습은 단순히 분류나 예측의 성능을 높이는 것뿐 아니라, 데이터 자체의 구조나 의미를 추출하여 설명 가능성과 일반화 성능의 향상을 뒷받침하는 토대가 되며, 때로는 보편성에까지 언급되기도 한다.

 

2. 자기지도학습과 대조학습

최근 특히 주목받고 있는 것은 외부 라벨에 의존하지 않고 데이터 자체에서 학습 신호를 생성하는 자기지도학습(self-supervised learning)이다. 이 구조에서는 오토 인코더에 의한 재구성 과제나 미래 예측 태스크 등을 통해 관측 데이터로부터 의미 있는 표현을 획득한다. 대표적인 기법 중 하나가 대조학습(contrastive learning)으로, 이것은 ‘유사한 쌍은 가깝게, 다른 쌍은 멀게’라는 목적함수를 이용해 표현 공간에 구조를 부여한다. 예를 들어 시계열 신호의 전반과 후반을 ‘동일 세션 유래’라는 정예 쌍으로 학습하고, 다른 세션을 부예로 함으로써 시간적 일관성을 포착한 특징 표현을 얻을 수 있다. 대표적인 기법으로는 SimCLR, MoCo, BYOL, 그리고 의료 분야에서 주목받는 InfoNCE(Information Noise Contrastive Estimation) 등이 있다.

 

이러한 표현학습을 통해 생체 신호에서 노이즈를 제거하면서 개체차와 상황 의존성을 흡수한 추상적이고 또한 의료적으로 분석 가능한 축을 얻을 가능성이 있다.

 

3. 의료 AI에서의 역할

표현학습의 성과물인 임베딩(embedding)은 분류나 회귀, 이상 검지 등과 같은 다양한 하류 태스크에 응용 가능한 경우가 있다. 그러나 단순히 성능이 높을 뿐 아니라 ‘왜 이런 표현이 얻어졌는가’, ‘어떤 축이 의미를 가지는가’와 같은 구조의 이해도 중요하다. 이러한 이해를 위한 열쇠가 이하에서 논의할 ‘특정 가능성(identifiability)’이다.

 

특정 가능성과 그 중요성

 

1. 특정 가능성

표현학습 모델이 우수한 예측 성능을 보인다고 하더라도, 그 내부 표현이 어떤 정보를 어떤 형태로 갖고 있는지가 명확하지 않으면 의료 AI로서 신뢰성에 한계가 있다. 특히 진단이나 치료에 관련된 의사결정에 응용되는 경우 ‘왜 그런 출력이 나왔는가’라는 질문에 대해 어느 정도 설명 가능성이 요구된다.

 

이 맥락에서 최근 주목받고 있는 개념이 ‘특정 가능성’이다. 특정 가능성이란 ‘얻어진 잠재 표현이 허용되는 변환을 제외하고 유일하게 정해지는가’를 묻는 수학적 성질이다.

 

전형적으로는 선형 변환(행렬 변환)까지의 모호성 혹은 불확실성을 허용하는 선형 특정 가능성(linear identifiability)이 논의된다. 이러한 변환의 범위 내에서 표현이 유일하게 정해지면, 얻어진 표현 공간의 방향성이나 구조를 ‘진정 심도’나 ‘각성 수준’ 등 임상적으로 의미 있는 지표와 비교적 쉽고 또한 안정적으로 대응시킬 수 있게 된다. 반면 선형 변환의 범위를 넘어 비선형 변환까지 자유도를 허용한 상태에서만 특정되는 경우에는 표현 공간의 형상이나 스케일이 크게 왜곡되어 해석의 일관성이나 재현성이 손상될 가능성이 있다. 따라서 특정 가능성을 확보하는 것은 표현학습 모델의 신뢰성과 설명 가능성을 높이는 데 필수적인 요건이다.

 

2. 비선형 독립 성분 분석과 표현의 구조

고전적인 독립 성분 분석(ICA)은 혼합 신호로부터 통계적으로 독립한 성분을 추출하여 잠재 인자(예를 들면 뇌 활동의 원천)를 추정하는 기법이다. 기존의 선형 ICA에서는 관측 신호 x가 잠재 변수 s의 선형 혼합 x＝As에 의해 생성된다고 가정했으나, 생체 신호의 대부분은 이 가정을 만족하지 않는다.

 

최근의 연구에서는 비선형 독립 성분 분석(nonlinear ICA)의 구조가 제안되어, 특히 시간 의존성이나 보조 변수를 활용함으로써 비선형 변환하에서도 특정 가능한 표현을 학습할 수 있다는 것이 입증되고 있다.

 

예를 들어 각성․수면․깊은 수면 등과 같은 상태가 어떤 방향으로 표현 공간에 나타난다면, 이것은 단순한 클러스터링 이상으로 가치 있는 표현이며, 시간적 문맥(수면 단계의 추이 등)을 포함함으로써 보다 안정적으로 추정될 가능성이 있다.

 

3. 대조학습과 InfoNCE에 의한 특정 가능성의 획득

특정 가능성 실현에 중요한 역할을 하는 것이 대조학습, 특히 InfoNCE이다. 이 손실함수는 정예 쌍을 가깝게, 부예 쌍을 멀게 하여 정보 이론적으로 식별 가능한 표현을 이끌어낸다.

 

최근에는 비선형 ICA와 InfoNCE의 이론적인 접속이 제시되어, 적절한 전처리나 시간적 구조의 이용으로 진정한 잠재 구조를 재구성할 수 있다는 것을 알게 되었다. 즉, 관측 데이터의 편차를 단순히 압축하는 것만이 아니라 진정한 잠재 구조에 따라 분석이 가능해진다는 것이다.

 

이러한 표현은 후단의 선형 모델이나 결정 트리, 의사에 의한 룰 기반 지식과 접속하기 위한 인터페이스가 될 수 있다. 예를 들어 어떤 표현 방향이 ‘부정맥의 전조’, ‘산소 포화도의 저하’, ‘통증의 징후’ 등과 같은 임상적으로 의미 있는 개념과 일치하고 있다면, 그 AI는 단순한 블랙박스가 아니게 된다.

 

4. 의료에서의 의의

의료 분야에서는 신뢰성, 설명 가능성, 재현성 등과 같은 측면이 매우 중시된다. 여기서 말하는 특정 가능한 표현은 단순히 ‘알기 쉬운’ 것뿐만 아니라 ‘누가 보아도 동일한 의미를 가지며’, ‘재학습해도 동일한 축이 나타나는’ 재현 가능한 설명성을 보장하는 것이다. 특히 임상 응용에서는 다음과 같은 이점이 기대된다.

 

· 이상 상태의 조기 발견과 그 분석

· 의사의 전문 지식과 접속된 지식 통합

· 개체차와 노이즈에 강한 안정된 진단 기반

 

여기서는 표현학습의 ‘내용’에 빛을 비추기 위한 열쇠가 되는 특정 가능성의 이론과 의의를 소개했다. 이하에서는 실제로 이러한 사고방식이 생체 신호에 어떻게 응용되고 있는지 구체적인 예를 들어본다.

 

생체 신호와 표현학습의 융합 사례

 

1. 생체 신호를 이용한 질환 검출과 예측

표현 학습이 의료 AI에 기여하는 구체적인 예는 많다. 예를 들어 심전도(ECG)를 이용한 부정맥 검출에서는 기존의 룰 기반 기법이 QRS 파형이나 심박 간격 등의 명시적인 특징을 사용하고 있는 반면, 표현학습은 미정의의 잠재 구조를 포함한 특징 공간을 구축할 수 있다. 이를 통해 육안으로 놓치기 쉬운 미세한 이상이나 장시간 기록 중에 나타나는 패턴 등을 포착할 수도 있다.

 

표현학습에서는 신호의 비정상성이나 개인차의 크기가 과제로 작용하지만, 적절히 학습된 표현 공간에서는 ‘발작 전의 징후에 특이적인 표현’이나 ‘수면 심도에 대응하는 표현’이 추출되는 경우도 있다.

 

2. 의사의 지식과 접속 : 설명 가능성의 교두보

이러한 표현의 존재는 의사의 임상 지식과 기계학습 모델 간에 교두보 역할을 한다. 예를 들어 수면 연구에서 숙련 기사가 수행하는 수면 단계의 스코어링은 시각적 특징(스핀들, 델타파, K-complex 등)에 기반하고 있지만, 표현 공간상에서 그 단계가 연속적으로 분포하는 축으로 재현된다면 기사의 지식과 정합성이 나타난다.

 

또한 수술 중의 근전도나 심박 변동으로 통증과 의식 수준을 모니터링하는 연구에서도 표현학습으로 얻어진 특징 축이 ‘진정의 깊이’, ‘각성의 징후’ 등과 같은 개념과 일치하는 것이 보고되어 있다. 이를 통해 블랙박스였던 AI가 의료 종사자에게 의미 있는 차원으로 설명될 수 있게 된다.

 

3. 멀티모달 통합으로의 확장

더 나아가 여러 가지 생체 신호(예 : 뇌파＋호흡＋심전도)나 영상, 텍스트(차트)를 통합한 멀티모달 표현의 활용도 추진되고 있다. 이러한 융합 표현은 질환의 다면적 이해와 예후 예측의 고정도화에 기여한다.

 

여기서도 특정 가능성의 관점은 중요하다. 예를 들어 서로 다른 모달리티에 걸쳐 ‘공통의 잠재 인자’가 표현 공간에 투영된다면, 그 축은 인과적 구조의 일부를 담당할 가능성이 있다. 예를 들어 우리는 CEBRA와 같은 자기지도학습 기법과 선형 정준 상관 분석(CCA)을 조합하여, 서로 다른 데이터 소스의 표현 간에도 선형 변환에 의한 정렬이 가능한지 검증을 시도하고 있다. 획득된 각 모달리티의 표현에서 각각 선형 특정 가능성이 부여되어 있다면, 정렬도 선형 변환으로 충분할 가능성이 있다는 가설에 근거한 시도이다. 이 가설의 진위는 아직 명확하게 밝혀지지는 않았지만, 어쨌든 멀티모달 데이터에서 표현 간의 정렬 연구는 활발히 추진되고 있으며, 앞으로도 눈부신 발전을 보일 것으로 기대된다.

 

4. 행동 인식·웨어러블 응용 전개

의료의 틀을 넘어 헬스케어나 행동과학 분야에서도 생체 신호와 표현학습의 융합이 확산되고 있다. 특히 웨어러블 기기에 의한 연속 기록 데이터(예 : 심박, 가속도, 피부 온도)를 이용한 행동 인식에서는 복잡한 시계열로부터 행동 임베딩 표현을 얻으려는 시도가 진행되고 있다.

 

예를 들어 자세․행동의 표현과 통합하거나 혹은 정렬을 함으로써 ‘활동량·상태’나 ‘모션 아티팩트’를 표현 공간상에 추출하는 것도 가능하다. 이러한 행동 관련 임베딩 표현은 고령자의 낙상 예측, 재활 지원, 정신 상태의 평가 등과 같은 응용으로 이어질 것으로 기대된다.

 

5. 의료 AI의 질을 바꿀 가능성

이들 예에 공통적인 점은 표현학습이 단순한 성능 향상의 수단이 아니라 의료 AI의 질적 변화를 가져오는 기반이 될 수 있다는 점이다. 즉

 

· 다양한 신호원의 정보를 압축하면서 의미 있는 차원으로 파악한다

· 의사나 환자가 이해 가능한 형태로 출력을 가시화한다

· 생리·병리·행동 사이에 잠재하는 잠재 구조를 명확화한다

 

이하에서는 이러한 표현이 ‘좋은 표현’으로 판단되기 위한 기준과 평가법, 그리고 설명 가능성과의 관계에 대해 더욱 깊이 들어가 논의해 본다.

 

표현의 평가와 설명 가능성

 

1. ‘좋은 표현’이란 무엇인가?

표현학습의 출력인 임베딩 표현은 분류나 회귀 등과 같은 하류 태스크에 이용되어 간접적으로 평가되는 경우가 많다. 그러나 반드시 ‘태스크의 정도가 높다＝좋은 표현’은 아니다. 특히 의료와 같이 설명 가능성과 신뢰성이 요구되는 영역에서는 모델이 학습한 표현이 무엇을 의미하는지에 대한 이해가 필수적이다.

 

이에 최근 ‘좋은 표현이란 무엇인가?’라는 질문에 대해 단순한 성능 지표에 그치지 않는 다각적인 평가 지표가 제안되고 있다.

 

2. 표현의 평가 축

선형 가분성(Linearity) 표현 공간에서 중요한 클래스(질환 vs. 정상, 각성 vs. 수면 등)를 선형으로 분리 가능하다는 것은 모델의 이해 용이성에 기여한다. 이것은 의사에 의한 진단 로직과도 정합적인 경우가 많아 설명 가능성과 친화성이 높다.

 

· 재구성 가능성(Reconstruction ability) : 표현으로부터 원래의 입력 신호를 재구성할 수 있다는 것은 정보 손실이 적다는 것을 의미하며, 진단 근거를 추적하는 데 유효하다. 오토 인코더나 변분 베이즈 모델에서 중시되는 관점.

· 해석 가능한 축의 존재(Disentanglement) : 임베딩의 각 차원이나 방향이 특정의 생리 상태나 질환 상태에 대응하고 있다는 것(＝특정 가능성)은 설명성 높은 표현의 열쇠가 된다.

· 강건성(Robustness)과 일반화(Generalizability) : 개체차나 측정 조건의 차이에 대해 안정된 표현이라는 것은 임상 응용에 필수적이다. 특히 소수 예에 대한 대응력이 요구된다.

 

3. 의료 현장에서 설명 가능성의 요청

의료 현장에서는 AI 출력에 대해 ‘왜 그런 판단이 내려졌는가?’라는 설명이 요구된다. 이것은 의사의 최종 판단 책임이나 인폼드 콘센트(Informed Consent, 사전 동의)의 근거 제시라는 관점에서도 매우 중요하다.

 

표현학습에서 설명 가능성은 주로 이하와 같은 형태로 실현될 수 있다.

 

· 시각적 가시화(t-SNE나 UMAP에 의한 저차원 매핑)

· 대표 예의 제시(임베딩 공간에 가까운 증례의 예시)

· 축의 의미 부여(특정 가능성으로 얻어진 축에 ‘통증’, ‘각성도’ 등의 의미를 부여한다)

· 인과적 설명(어떤 차원이 변화했을 때의 예측이나 재구성에 미치는 영향을 분석)

 

4. 모델 선택과 설계 시의 고려점

표현의 좋고 나쁨은 모델 설계·손실함수·정규화 기법에 크게 의존한다. 예를 들어

 

· InfoNCE 등의 콘트라스트(contrast) 손실은 정보 보존성과 구조 파악의 균형이 좋아 해석성을 동반하는 표현을 생성하기 쉽다.

· 벡터량의 정규화나 클러스터링 정칙화는 구조적으로 해석하기 쉬운 공간을 형성하는 데에 유효하다.

· 시간 구조나 보조 변수(e.g. 컨텍스트 윈도, 환자 속성)의 도입은 특정 가능성을 높이고 안정된 축의 학습으로 이어진다.

 

따라서 모델 평가 시에는 단순하게 정도를 추구하는 것이 아니라, 이러한 관점에 기반한 다면적인 검토가 요구된다.

 

5. 설명 가능성과 신뢰성을 연결한다

최종적으로 좋은 표현이란 ‘의사나 연구자가 그 구조를 이해하여 납득하고 신뢰할 수 있는’ 것이다. 이것은 단순한 기계적인 점수가 아니라 의미 있는 구조가 내포된 표현이라는 것을 의미한다.

 

·의사가 보고 ‘이 축은 통증 수준에 대응한다’고 판단할 수 있다

·환자에 대해 ‘당신의 상태는 이 공간의 여기에 위치합니다’라고 설명할 수 있다

·시스템 개발자가 ‘이 표현은 이 증상군을 일관되게 포착하고 있다’라고 검증할 수 있다

 

이와 같이 표현학습은 의료 AI에서 인간과의 인터페이스로서 강한 측면을 가지며, 그 평가는 단순한 기술적인 문제에 그치지 않고 윤리성이나 사회 실장의 가부에도 직결된다.

 

앞으로의 전망

 

1. 의료 AI의 전환점에 서다

지금까지 설명한 바와 같이 생체 신호와 같은 복잡하고 비정상의 정보를 다루는 의료 AI에서 표현학습은 중심적인 역할을 하고 있다. 이것은 단순한 정도 향상을 위한 기술이 아니라, ‘AI가 무엇을 학습하고 어떻게 판단하는가’를 인간에게 가시화․해석 가능한 형태로 제공하는 대화적․구조적인 구조이기도 하다.

 

이러한 표현학습의 입장은 의료 AI를 ‘블랙박스의 계산 장치’에서 ‘신뢰할 수 있는 의사결정 지원 도구’로 진화시키는 열쇠이다. 그리고 앞으로 이 진화를 더욱 추진하기 위해서는 이하와 같은 기술적․사회적 전망이 중요하다.

 

(1) 멀티모달․인과적 표현학습의 심화

앞으로의 표현학습 중심 과제 중 하나는 복수 모달리티의 통합이다. 생체 신호뿐만 아니라 영상, 텍스트, 음성, 행동 기록, 나아가 환경 데이터 등 다양한 정보를 공통의 표현 공간에 사상함으로써 보다 풍부한 건강 상태의 이해가 가능해진다.

 

더불어 요구되는 것은 단순한 정보 융합이 아니라, ‘공통 인자(latent factor)를 추출하는 인과적 표현학습’이다. 질병의 진행이나 회복 등과 같은 시간적 인과를 고려한 표현 공간의 구축은 장래적인 질병 예측이나 개입 지원의 기반이 될 수 있다.

 

최근에는 인과 그래프와 표현학습의 통합이나 환경 개입과 표현의 변화를 관찰하는 실험적 구조도 제안되어, 이들을 생체 신호 분석에 응용함으로써 ‘왜 이 환자가 악화됐는가’와 같은 원인 귀속 가능한 AI가 실현되고 있다.

 

(2) 인터랙티브한 인간 중심 AI와의 통합

또 다른 큰 방향성은 표현학습과 인터랙티브 AI의 통합이다. 의료에서는 AI가 완전히 자율적으로 판단하는 것이 아니라, 인간과 협조하며 필요에 따라 설명․수정․보완되는 것이 바람직하다.

이를 위해 표현 공간의 구조가 사용자에게 의미 있는 축으로 가시화되고, 대화적으로 탐색 가능한 공간이 되는 것이 이상적이다. 예를 들어 의사가 임베딩 공간을 조작해 ‘이 환자는 이 축에서 악화 경향에 있다’라고 분석하거나, 특정 영역을 표시해 ‘이 군에 속하는 증례를 중점적으로 확인하고 싶다’라는 행동을 취할 수 있는 인터페이스가 요구된다.

 

(3) 윤리적․제도적 과제와 사회 실장

표현학습으로 얻은 정보는 매우 고밀도이며, 또한 개인 특정성도 높기 때문에 프라이버시와 윤리적 문제와의 균형도 중요하다. 특히 의료에서는 이하와 같은 사회적 과제가 부상한다.

 

· 임베딩 공간에 의한 ‘상태의 라벨링’이 편견이나 차별로 이어질 가능성

· 설명 가능성이 과도하게 요구되어 잘못된 인과 분석이 이루어질 위험

· 결정에 대한 책임 소재 (AI vs. 인간)

 

이들에 대해서는 표현의 제약적 설계(fair representation learning)나 인간과 AI의 공동 책임을 설계에 포함하는 구조가 요구된다. 표현 공간이 투명해도 그것을 누가 어떻게 사용하는가 하는 사회 설계의 관점이 필요한 것이다.

 

2. 맺음말

의료 AI는 지금 기술 혁신과 사회 실장의 양측면에서 중대한 전환점에 있다. 이 글에서 설명한 표현학습과 특정 가능성의 관점은 블랙박스를 탈피하여 의미 있는 인공지능과의 공생을 실현하는 하나의 방안이다.

 

앞으로 더욱 복잡화·다양화되는 의료 환경에서 표현학습은 단순한 학습의 기술에 그치지 않고, ‘의료의 이해 그 자체의 패러다임’을 바꾸는 원동력이 될 잠재력을 가지고 있다.