| AI가 바꾸는 임상 데이터 관리의 현재와 미래
▲ 왼쪽부터 제이앤피메디 전재한 Consultant, 제이앤피메디 김은정 Consultant
임상시험에서 AI는 이미 활용되고 있습니다. Data Cleaning, Medical Coding, 이상치 탐지, 결측치 보정 — 한때 사람의 손으로만 가능하다고 여겨졌던 영역까지 AI가 들어왔습니다. 그러나 변화의 핵심은 'AI가 무엇을 할 수 있는가'가 아닙니다. 임상 데이터 관리(Data Management, 이하 DM)에서 진정한 변화는 규제가 AI 사용을 어떻게 받아들이기 시작했는가, 그리고 그 변화가 DM의 업무를 어디로 이끄는가에 있습니다.
규제는 이제 'AI의 성능'이 아니라 'AI 사용의 설명 가능성'을 묻는다
(출처 = Gemini 생성 이미지)
2024년 5월, FDA의 M. Khair ElZarrad는 공식 인터뷰에서 임상시험 데이터 정제(Data Cleaning), 중복 참여자 식별, 결측치 보정, 데이터 표준화를 AI의 핵심 활용 영역으로 명시했습니다. 그 직후 2025년 1월, FDA는 AI 활용에 대한 Draft Guidance를 발표했습니다. 2026년 1월에는 AI 활용에 관한 국제적 공통 원칙도 제시되며, AI 사용을 규제적 관점에서 설명하고 관리하려는 흐름이 더 분명해졌습니다.
이 일련의 흐름은 한 가지 질문으로 수렴합니다. 이 데이터가 어떻게 만들어졌는지, 당신이 설명할 수 있는가?
규제기관은 AI의 정확도(Accuracy)만이 아니라, AI 사용의 설명 가능성(Explainability)과 추적 가능성(Traceability)을 함께 살핍니다. AI가 만든 결과물이 임상 데이터로 들어오는 순간, DM은 이 두 용어를 문서와 기록으로 입증하고자 깊게 관여할 수밖에 없습니다.
FDA Draft Guidance가 요구하는 것: DM이 사전에 정의해야 하는 'Fit for Purpose'
FDA Draft Guidance의 핵심은 7단계 위험 기반 신뢰성 평가 프레임워크(Risk-based Credibility Assessment Framework)입니다. 이 중 DM이 직접 작성하거나 검토해야 하는 항목은 세 가지입니다.
①Question of Interest: 이 AI가 어떤 임상적 질문에 답하기 위해 사용되는가
②Context of Use(COU): 어떤 데이터·환경·범위에서 어떻게 사용되는가
③Model Risk(Model Influence × Decision Consequence): 의사결정에 대한 모델의 영향력과 결정 결과의 중대성을 곱한 값 |
이 세 가지가 문서화되지 않은 채 AI 산출 데이터가 데이터셋에 포함된다면, 그 데이터가 해당 사용 목적에 적합함을 설명하기 어려워집니다. 이는 허가 제출 또는 실사 과정에서 데이터 신뢰성에 대한 추가 설명 요구로 이어질 수 있습니다.
FDA·EMA 10원칙의 진정한 의미: DM이 해온 업무를 AI 영역으로
2026년 1월 FDA·EMA가 제시한 AI 활용 관련 공통 10원칙은 데이터 품질, 추적성, 문서화, 변경 관리, 위험 기반 관리와 같은 기존의 규제 원칙을 AI 영역에도 동일한 수준으로 적용해야 함을 명확히 하고 있습니다. 그 중 실무적으로 중요한 핵심은 다음 네 가지로 정리될 수 있습니다.
①AI 사용은 위험 기반(Risk-Based)으로 관리되어야 한다.
②데이터 품질·무결성은 AI 사용 전후 모두에서 입증되어야 한다.
③모델은 라이프사이클 전반에서 모니터링되어야 하며, 데이터 분포 변화(Data Drift)나 모델 성능 저하(Performance Drift)를 지속적으로 관리해야 한다.
④인간의 감독(Human Oversight)은 명시적이어야 한다. |
이 네 가지 핵심 요소는 21 CFR Part 11(전자기록·전자서명)에서 요구하는 데이터 무결성 및 기록 관리 기준과도 맞닿아 있습니다. 특히 AI 사용 과정에서 생성되는 기록이 Audit trail로 관리되지 않는다면, 해당 데이터의 추적성과 신뢰성을 설명하는 데 한계가 생길 수 있습니다.
운영 현장이 보내는 신호: AI Governance의 빈 자리
규제 문서가 제시하는 방향은 분명합니다. AI를 사용할 때 목적과 사용 범위, 위험도, 검토 책임, 기록 방식을 설명할 수 있어야 합니다. 문제는 이러한 원칙들이 실제 임상시험 운영에 저절로 구현되지 않는다는 점입니다.
AI 기반 모집 플랫폼, 위험 평가 도구, 자동화 기술을 사용하는 기관은 해당 모델이 어떻게 작동하는지 설명할 수 있어야 한다.
AI 산출 결과의 검토 주체와 기준이 문서화되어 있지 않으면, Sponsor나 규제기관에 신뢰성을 입증하기 어렵다.
다기관 환경에서 AI 도구와 데이터 관리 기준 운영이 일관되지 않을 경우, 데이터 무결성 관리가 더 어려워질 수 있다.
따라서, AI Governance의 핵심은 AI 사용 여부의 기록에서 끝나지 않습니다. 어떤 업무 영역에서 AI가 쓰이고, 그 결과를 누가 검토하며, 문제가 생겼을 때의 책임의 범위를 정리하는 데 있습니다.
영역별 DM 업무의 변화
(출처 = Gemini 생성 이미지)
AI가 도입된 모든 영역에서 DM의 책임 범위가 넓어졌습니다. 또한, 책임은 분산되는 것이 아니라, 오히려 더 많은 이해관계자와 연결되며 DM을 중심으로 재구성됨을 표에서 확인할 수 있습니다. DM 단독에서 DM+IT, DM+QA로 — DM은 이제 데이터 품질을 혼자 책임지는 부서를 넘어, AI Governance의 가운데에 서게 됩니다.
| 영역 | AI 도입 이전(Before) | AI 도입 이후(After) |
| Data Cleaning | 중복·결측치를 규칙 기반(Rule-Based)으로 처리 | AI가 자동 보정·이상치 식별을 수행하고, DM은 기준과 한계를 정의·승인 |
| Medical Coding | MedDRA·WHO Drug 수동 코딩 | AI가 자동 매핑을 수행하고, DM은 매핑 정확도·재학습 주기·예외 처리 기준 운영 |
| 검증 범위 설계 | EDC 시스템 단일 검증 | AI 도구별 사용 맥락(COU) 및 모델 위험(Model Risk) 기반으로 검증 범위 정의 |
| 문서화 | 시스템 명세의 문서화 | AI 도구 목록· AI 도구별 사용 맥락(COU)·검토 책임자·재학습 정책 문서화 |
운영 관리 | 이슈 발생 시 사후 대응 | 데이터 분포 변화(Data Drift) 및 모델 성능 저하(Performance Drift) 상시 모니터링, 임계치 초과 시 정의된 대응 절차(Escalation)
|
5년 후 DM 관점의 임상시험 환경의 변화
향후 5년 동안 임상시험 환경은 다음과 같은 방향으로 변화할 가능성이 있습니다.
첫째, AI 관련 정보는 DMP(data management plan)에서 점점 더 중요한 항목으로 다뤄질 수 있습니다. 현재는 일부 시험에서만 제한적으로 명시되지만, FDA Draft Guidance의 구체화와 ICH E6(R3)의 적용이 확산될 경우, AI 도구 목록, COU, Model Risk 평가와 같은 요소들이 프로토콜 및 DMP 작성 단계에서 보다 명시적으로 요구될 가능성이 있습니다. 이 경우 DM은 Protocol 단계부터 AI 관련 논의에 더 깊이 관여하게 될 수 있습니다.
둘째, DM의 역할은 데이터 처리 중심에서 데이터 책임을 포함하는 방향으로 확장될 수 있습니다. 기존에는 EDC 운영, Query 관리, Reconciliation 등 데이터 처리와 품질 확보에 초점이 맞춰져 있습니다. 앞으로는 여기에 더해, AI 도구의 사용 기준을 정의하고 그 결과의 신뢰성을 설명할 수 있는 역할이 점차 요구될 수 있습니다. 이는 업무의 축소라기보다, 역할 범위의 확장에 가깝습니다.
셋째, Inspection 대비의 범위 역시 점진적으로 확장될 가능성이 있습니다. 현재는 데이터의 정확성, 완전성, 변경 이력 관리가 주요 확인 대상이지만, 향후 AI가 개입된 데이터 처리 과정과 그 검증 및 승인 기록에 대한 확인이 포함될 가능성도 제기됩니다. 즉, 데이터 자체 뿐만 아니라 생성 및 처리 과정에 대한 설명 요구가 보다 중요해질 수 있습니다.
이러한 변화의 공통된 방향은 비교적 분명합니다. DM의 역할은 단순한 검토를 넘어, 데이터 전반에 대한 설명 책임을 포함하는 방향으로 확장될 가능성이 있습니다.
'검토자'에서 '책임자'로
결국 임상시험 데이터 관리의 본질은 AI라는 기술 자체에 있지 않습니다. AI를 통해 생성·정제된 데이터를 규제기관이 요구하는 수준으로 얼마나 설명 가능하고 일관되게 입증할 수 있느냐에 달려 있습니다.
모델의 성능, 자동화된 처리, 효율성 향상은 중요한 요소일 수 있습니다. 그러나 규제기관이 확인하고자 하는 것은 그 결과가 어떤 기준과 통제 아래 생성되었는지에 대한 명확한 근거와 책임 구조입니다.
AI가 개입된 데이터 흐름에서 결과보다 과정이 더 중요한 검증 대상이 될 수 있습니다. 이 과정이 문서화되고, 추적 가능하며, 일관되게 관리될 때에만 데이터는 신뢰성을 가지게 됩니다.
이러한 흐름에 따라 DM의 역할은 단순한 데이터 검토나 정제를 넘어, 데이터 생성과 처리 전반을 설명하고 입증하는 책임으로 재정의될 필요가 있습니다.
✔️ 원문보기 : CLICK
| AI가 바꾸는 임상 데이터 관리의 현재와 미래
임상시험에서 AI는 이미 활용되고 있습니다. Data Cleaning, Medical Coding, 이상치 탐지, 결측치 보정 — 한때 사람의 손으로만 가능하다고 여겨졌던 영역까지 AI가 들어왔습니다. 그러나 변화의 핵심은 'AI가 무엇을 할 수 있는가'가 아닙니다. 임상 데이터 관리(Data Management, 이하 DM)에서 진정한 변화는 규제가 AI 사용을 어떻게 받아들이기 시작했는가, 그리고 그 변화가 DM의 업무를 어디로 이끄는가에 있습니다.
규제는 이제 'AI의 성능'이 아니라 'AI 사용의 설명 가능성'을 묻는다
2024년 5월, FDA의 M. Khair ElZarrad는 공식 인터뷰에서 임상시험 데이터 정제(Data Cleaning), 중복 참여자 식별, 결측치 보정, 데이터 표준화를 AI의 핵심 활용 영역으로 명시했습니다. 그 직후 2025년 1월, FDA는 AI 활용에 대한 Draft Guidance를 발표했습니다. 2026년 1월에는 AI 활용에 관한 국제적 공통 원칙도 제시되며, AI 사용을 규제적 관점에서 설명하고 관리하려는 흐름이 더 분명해졌습니다.
이 일련의 흐름은 한 가지 질문으로 수렴합니다. 이 데이터가 어떻게 만들어졌는지, 당신이 설명할 수 있는가?
규제기관은 AI의 정확도(Accuracy)만이 아니라, AI 사용의 설명 가능성(Explainability)과 추적 가능성(Traceability)을 함께 살핍니다. AI가 만든 결과물이 임상 데이터로 들어오는 순간, DM은 이 두 용어를 문서와 기록으로 입증하고자 깊게 관여할 수밖에 없습니다.
FDA Draft Guidance가 요구하는 것: DM이 사전에 정의해야 하는 'Fit for Purpose'
FDA Draft Guidance의 핵심은 7단계 위험 기반 신뢰성 평가 프레임워크(Risk-based Credibility Assessment Framework)입니다. 이 중 DM이 직접 작성하거나 검토해야 하는 항목은 세 가지입니다.
②Context of Use(COU): 어떤 데이터·환경·범위에서 어떻게 사용되는가
③Model Risk(Model Influence × Decision Consequence): 의사결정에 대한 모델의 영향력과 결정 결과의 중대성을 곱한 값
이 세 가지가 문서화되지 않은 채 AI 산출 데이터가 데이터셋에 포함된다면, 그 데이터가 해당 사용 목적에 적합함을 설명하기 어려워집니다. 이는 허가 제출 또는 실사 과정에서 데이터 신뢰성에 대한 추가 설명 요구로 이어질 수 있습니다.
FDA·EMA 10원칙의 진정한 의미: DM이 해온 업무를 AI 영역으로
2026년 1월 FDA·EMA가 제시한 AI 활용 관련 공통 10원칙은 데이터 품질, 추적성, 문서화, 변경 관리, 위험 기반 관리와 같은 기존의 규제 원칙을 AI 영역에도 동일한 수준으로 적용해야 함을 명확히 하고 있습니다. 그 중 실무적으로 중요한 핵심은 다음 네 가지로 정리될 수 있습니다.
②데이터 품질·무결성은 AI 사용 전후 모두에서 입증되어야 한다.
③모델은 라이프사이클 전반에서 모니터링되어야 하며, 데이터 분포 변화(Data Drift)나 모델 성능 저하(Performance Drift)를 지속적으로 관리해야 한다.
④인간의 감독(Human Oversight)은 명시적이어야 한다.
이 네 가지 핵심 요소는 21 CFR Part 11(전자기록·전자서명)에서 요구하는 데이터 무결성 및 기록 관리 기준과도 맞닿아 있습니다. 특히 AI 사용 과정에서 생성되는 기록이 Audit trail로 관리되지 않는다면, 해당 데이터의 추적성과 신뢰성을 설명하는 데 한계가 생길 수 있습니다.
운영 현장이 보내는 신호: AI Governance의 빈 자리
규제 문서가 제시하는 방향은 분명합니다. AI를 사용할 때 목적과 사용 범위, 위험도, 검토 책임, 기록 방식을 설명할 수 있어야 합니다. 문제는 이러한 원칙들이 실제 임상시험 운영에 저절로 구현되지 않는다는 점입니다.
AI 기반 모집 플랫폼, 위험 평가 도구, 자동화 기술을 사용하는 기관은 해당 모델이 어떻게 작동하는지 설명할 수 있어야 한다.
AI 산출 결과의 검토 주체와 기준이 문서화되어 있지 않으면, Sponsor나 규제기관에 신뢰성을 입증하기 어렵다.
다기관 환경에서 AI 도구와 데이터 관리 기준 운영이 일관되지 않을 경우, 데이터 무결성 관리가 더 어려워질 수 있다.
따라서, AI Governance의 핵심은 AI 사용 여부의 기록에서 끝나지 않습니다. 어떤 업무 영역에서 AI가 쓰이고, 그 결과를 누가 검토하며, 문제가 생겼을 때의 책임의 범위를 정리하는 데 있습니다.
영역별 DM 업무의 변화
AI가 도입된 모든 영역에서 DM의 책임 범위가 넓어졌습니다. 또한, 책임은 분산되는 것이 아니라, 오히려 더 많은 이해관계자와 연결되며 DM을 중심으로 재구성됨을 표에서 확인할 수 있습니다. DM 단독에서 DM+IT, DM+QA로 — DM은 이제 데이터 품질을 혼자 책임지는 부서를 넘어, AI Governance의 가운데에 서게 됩니다.
5년 후 DM 관점의 임상시험 환경의 변화
향후 5년 동안 임상시험 환경은 다음과 같은 방향으로 변화할 가능성이 있습니다.
첫째, AI 관련 정보는 DMP(data management plan)에서 점점 더 중요한 항목으로 다뤄질 수 있습니다. 현재는 일부 시험에서만 제한적으로 명시되지만, FDA Draft Guidance의 구체화와 ICH E6(R3)의 적용이 확산될 경우, AI 도구 목록, COU, Model Risk 평가와 같은 요소들이 프로토콜 및 DMP 작성 단계에서 보다 명시적으로 요구될 가능성이 있습니다. 이 경우 DM은 Protocol 단계부터 AI 관련 논의에 더 깊이 관여하게 될 수 있습니다.
둘째, DM의 역할은 데이터 처리 중심에서 데이터 책임을 포함하는 방향으로 확장될 수 있습니다. 기존에는 EDC 운영, Query 관리, Reconciliation 등 데이터 처리와 품질 확보에 초점이 맞춰져 있습니다. 앞으로는 여기에 더해, AI 도구의 사용 기준을 정의하고 그 결과의 신뢰성을 설명할 수 있는 역할이 점차 요구될 수 있습니다. 이는 업무의 축소라기보다, 역할 범위의 확장에 가깝습니다.
셋째, Inspection 대비의 범위 역시 점진적으로 확장될 가능성이 있습니다. 현재는 데이터의 정확성, 완전성, 변경 이력 관리가 주요 확인 대상이지만, 향후 AI가 개입된 데이터 처리 과정과 그 검증 및 승인 기록에 대한 확인이 포함될 가능성도 제기됩니다. 즉, 데이터 자체 뿐만 아니라 생성 및 처리 과정에 대한 설명 요구가 보다 중요해질 수 있습니다.
이러한 변화의 공통된 방향은 비교적 분명합니다. DM의 역할은 단순한 검토를 넘어, 데이터 전반에 대한 설명 책임을 포함하는 방향으로 확장될 가능성이 있습니다.
'검토자'에서 '책임자'로
결국 임상시험 데이터 관리의 본질은 AI라는 기술 자체에 있지 않습니다. AI를 통해 생성·정제된 데이터를 규제기관이 요구하는 수준으로 얼마나 설명 가능하고 일관되게 입증할 수 있느냐에 달려 있습니다.
모델의 성능, 자동화된 처리, 효율성 향상은 중요한 요소일 수 있습니다. 그러나 규제기관이 확인하고자 하는 것은 그 결과가 어떤 기준과 통제 아래 생성되었는지에 대한 명확한 근거와 책임 구조입니다.
AI가 개입된 데이터 흐름에서 결과보다 과정이 더 중요한 검증 대상이 될 수 있습니다. 이 과정이 문서화되고, 추적 가능하며, 일관되게 관리될 때에만 데이터는 신뢰성을 가지게 됩니다.
이러한 흐름에 따라 DM의 역할은 단순한 데이터 검토나 정제를 넘어, 데이터 생성과 처리 전반을 설명하고 입증하는 책임으로 재정의될 필요가 있습니다.
✔️ 원문보기 : CLICK