생성형 AI, 임상시험에 미치는 위험과 기회

JNPMEDI
05 Sep 2023 · 10 minutes read

김민석 제이앤피메디 사업본부장

오픈AI가 개발한 프로토타입 대화형 인공지능 챗봇인 챗GPT의 광풍이 여전히 식을 줄 모르고 있다. 베타 서비스를 출시한 지 이제 겨우 8개월이 지났을 뿐이지만, 그 기간 불러온 변화는 실로 혁명적이었다.

알파고 등장 이후 잠시 잠잠했던 AI산업은 챗GPT의 등장으로 인해 재편되고 있다고 해도 과언이 아니다. 지난 10여 년간 AI 기술은 급속도로 발전했다. 특히 생성형 AI 기술은 이공학 분야를 넘어 법률, 문화, 예술에 이르기까지 산업 전반으로 적용 영역을 확대함으로써 업무 혁신의 새로운 장을 제시하고 있다.

임상시험 분야 또한 최근 들어 AI 기술 적용을 위한 다양한 시도를 하는 중이다. 글로벌 제약사에서는 AI 모델을 통한 시뮬레이션을 바탕으로 다양한 임상시험 조건을 시도해 효과적인 조건을 찾는 데 활용하고 있다.

막대한 양의 임상시험 데이터를 기반으로 학습된 AI 모델은 최적의 국가, 시험기관, 모집 규모를 시뮬레이션하고 효율적인 임상을 수행토록 지원하고 있다. 더 나아가 새로운 환자나 시험 조건에 대한 결과를 예측하는 데도 활용되고 있다.

AI로 가상의 환자군을 만들어 내기도 한다. 임상시험에서는 약의 효과를 증명하기 위해 위약을 투여할 대조 환자군을 모집하지만, 희귀암이나 난치병은 환자가 적고 생사가 걸린 환자에게 위약을 투여하는 것에 대한 윤리적 문제 때문에 대조군 모집이 어렵다.

이러한 경우 AI 기술을 통해 과거 환자 데이터를 바탕으로 한 가상의 환자군(합성대조군, Synthetic Control Arm)을 만들어 임상시험에 적용하고 있다.

생성형 AI 기술이 더해지면서 AI가 임상시험 분야에 미치는 영향력은 나날이 커지고 있다. 생성형 AI는 사람이 AI에 특정 입력을 통해 어떤 것을 만들어 달라고 요구하면 그 요구에 맞춰 결과를 만들어 주는 인공지능을 의미한다.

이 과정에서 생성형 AI는 머신 러닝 및 딥 러닝 기반의 알고리즘을 사용하며, 이를 통해 생성되는 콘텐츠는 서면 자료, 이미지, 비디오, 음악, 컴퓨터 코드 등 다양한 형태로 표현된다.

임상시험 문서들을 요약하고 작성하는 업무에도 생성형 AI 기술이 활용되고 있다. 자연어 처리에 기반한 LLM(Large Language Model)은 대용량 임상시험 문서 데이터를 학습하고, 문장의 의미를 이해하며 핵심 정보를 추출하거나 요약한다. 이를 기반으로 임상시험 결과 요약이나, 보고서 작성 등 관련 문서들을 신규 생성할 수 있다.

임상시험 분야의 생성형 AI 기술은 연구자들의 의사결정을 위한 시간과 노력을 줄이는 데 기여할 수 있지만, 우려와 위험도 존재한다.

2023년 5월, 세계보건기구(WHO)는 의료분야에서의 LLM은 다양한 순기능이 있으나, 엄격한 검증과 감독이 필요하다는 입장을 표명했다. 이 같은 WHO의 성명은 챗GPT를 바라보는 관점이 활용 가능성 모색 단계를 넘어 임상 현장 적용·검증 단계로 접어드는 추세에 나온 발표라는 점에서 주목할 만하다.

WHO가 의료분야에서 LLM을 사용 시 엄격한 주의를 요구하는 이유로는 △학습데이터의 편향성 및 오류 가능성 △허위정보 생성 및 유포·오용 가능성 △건강관련 민감정보 유출 가능성 등을 언급하고 있다.

정보보호·보안 문제도 생성형 AI의 적용을 주저하게 되는 요소이다. AI 모델을 구축하는 데 사용되는 데이터에는 개인데이터, 약물정보 등과 같은 임상시험의 기밀정보가 포함될 수 있기 때문이다.

그러나 이제는 AI 도입에 대한 우려사항들을 인지하고, 데이터 품질 향상, 편향성 감소, 관련 규제 및 가이드라인 등의 대응책을 마련하는 것이 보다 중요해지고 있다.

최근 발전 속도로 보아 몇 년 후에는 대량의 축적 데이터를 바탕으로 임상시험의 주요한 조건을 입력하면 그에 맞는 프로토콜(임상시험 계획서)을 작성하고, 이를 근간으로 증례기록서나 동의서 등의 관련 문서들을 생성하는 것도 가능해질지 모른다.

생성형 AI가 인간의 지능을 뛰어넘는 가상의 시점인 특이점으로 이어질지 여부는 아직 미지수다. 하지만 앞으로 임상시험 산업에 큰 영향을 미칠 것이며 활용 영역이 무한히 확장될 것이라는 점은 더욱 분명해지고 있다.

Tags:
JNPMEDI
Article

Your Partner for a Successful Journey

JNPMEDI has been putting effort on bringing disruption on healthcare industry via integrating digital technologies to clinical research & trial operations.