한 소프트웨어 회사가 ‘AI 팀원’ 서비스를 내놓고 TV 광고 캠페인을 시작했나보다. 마케터, 작가, 디자이너 역할을 맡은 캐릭터들이 3D 가상 사무실에서 일하는 풍경을 사용자에게 보여준다. 오늘 아침에는 페이스북에서 여러 페르소나를 두고 AI를 부리는 방식이 대단한 성취처럼 소개하는 글도 읽었다. 나도 연구목적으로 역할을 나눈(페르소나라고 한단다) AI 도구를 만들어 쓰고 있어서, 이것이 혹시 상품성이 있는 일인지 궁금해졌다. 결론부터 말하면 내가 만든 건 상품성이 없다. 역할을 나누는 구성 자체는 새롭지 않기도 해서. 그리고 RAG에 기반한 내 워크플로우는 가져다 쓰기도 복잡하다(시행착오를 기억해보면). 이런 역할분담이 새삼주목받는게 신기하긴 하다.
이런 역할을 분담하는 과제처리는 여러 오픈소스 프레임워크가 이미 제공하고 있는 기능인데 기억할 점은 역할을 부여한다고 결과가 좋아지는지 아직도 확신할 수 없다는 점이다. 그렇다면 내가 보았던 광고들은 개선된 서비스가 아니라 포장을 파는 것이었을까? 설치 없이 쓸 수 있다는 편의성, 기존 도구와의 연결된다는 약속, 작업 승인 절차의 보장 같은 것들이다. 일 잘하는 직원이 중요한 결정을 내릴 때 결재 받으러 온다는 안정적인 비유. 아바타는 실제로 걸어 다니지 않지만 이 아바타가 돌아다니면서 일하는 풍경을 내려다 보는 것처럼 연출했다. 회사는 이 아바타를 사랑하게 될 것처럼 전제했다- 사용자는 고용주도 아니라서 아무런 책임을 지지 않는데 사랑하게 될까? 그저 익숙하다는 이유로 구독서비스에 사로잡히게 될지도 모르겠다.
-2-
AI 혁신을 보면 모두가 조바심을 느끼고 서두르고 있는 듯하다. 기업은 AI 기업으로 보이지 않으면 저평가될까 조급하고, 개인 사용자도 AI 쓰지 않으면 뒤처질까(그게 기껏 온라인 주문, 예약인데도) 다급하다. (기술혁명에 과잉 투자는 피할 수 없긴 하다만.) 이게 학문 생태계에도 들이닥친듯 하다. AI로 문헌을 찾고 분석해 심사를 통과할 원고를 쓰고, 그 심사마저 (암암리에) AI가 한다. 독자는 다시 AI 요약으로 읽는다. 동료심사 보고서와 논문 초록의 적지 않은 비율이 이미 언어모델을 거쳤다는 분석(10~20%란다)도 나와 있다. 느리더라도 직접 읽고 정리하는 편이 나은 공부법이 있다. 글을 읽어봐야 잡히는 대화 (모든 글은 대화다. 저자는 결론에 도달하도록 망설이고, 강변하고, 양보하며 타협을 시도한다)가 요약에는 생략되어 버린다. 필요한 것이 명제라면 뭐, 요약을 읽으면 되겠지만, 글을 읽는 행위가 자신도 바뀌는 상호작용이라는 점은 AI 문헌 분석에 포함될 수 없다. 그런데 글을 쓰는 사람도 자기 글의 운명을, 초록 – 그보다 짧은 결론 한줄-으로 한정되리라 생각하고 있을까? 모르겠다. 요즘 감당이 안되게 들어오는 리뷰 요청(예전에는 decline 버튼이라도 해줬는데 요즘은 그것도 건넌다. editor 심정으로는 decline도 고마운 응답이다)을 보면 그냥 글을 밀어내고 있는 것도 같다. 직접 읽고, 적은 글을 인용하지만 자신의 생각과 대화를 담는 식으로 써서는 뒤처질 수 있다는 압력이 분명히 있다. 영어가 모국어가 아닌 나 같은 사람은 특별한 전략을 고심하곤 한다- 인용을 많이 하는 것이 전략처럼 느껴진다, 아니면 자주 노출되지 않았을 ‘local’한 관점을 강조하기. 그렇게 출간해봐야 읽히리라는 보장도 없다. 누가 내 글을 인용했다는 고마운 메시지도 그게 사람이 읽은 건지 아님 AI가 걸러준건지도 모르겠어서, 그냥 흘린다. 이미 논문이 너무 많아져서 이전 10여 가지 저널을 쫓아가던 방식으로는 턱도 없어졌다. 이제는 저명한 저널에 게재해도 읽는 사람이 없을 것 같다. 소셜미디어가 학문적 소통 경로라는 주장도 나온다. 다만 아무도 읽지 않는 글은 AI 이전에도 있었다. 편수를 세는 평가 체계가 이미 그런 글을 대량으로 만들어 왔으며 AI는 그 병을 가속시켜 드러냈을 뿐이다. 텍스트가 넘칠수록 희소해지는 것은 사람의 판단, 직접 수집한 자료, 그리고 신뢰다. 느리게 읽는 일은 개인의 고집으로 남으면 뒤처짐이 되지만, 공동체의 규범이 되면 기준이 된다. 그 기준을 세우는 일이 지금 학회와 학술지가 해야 할 일은 아닌지- 요즘 학술지의 경향을 보면 그런 것 같지는 않다.
-3-
학술생태계는 더큰 정보생태계(infosphere)의 일부에 불과할수도 있다. 생태계는 모든 구성원이 agent-patient다. 나는 글을 쓴다- 글을 읽고 인용한다- 내 글이 인용된다. 이게 이전의 이해였다면, 이제는 내가 글을 쓰고 소비하는 방식이 다른 생태계에 영향을 미치고 결국 내 방식 역시 변화된다. AI을 피해갈 수 없는 운명이라면 최선의 방식이 무엇인지 고민해 보게 된다. 나 혼자 느릿느릿 읽고 쓰면 되려는지, 이런 종류의 글을 쓸 것인지, 전통적인 학술 커뮤니케이션에 변화가 필요한 것인지. 그보다 근본적으로 학자가 쓴 글을 인정하는 (결국 보상이다, 학자는 글을 쓴다는 점에서는 노동자에 가까우니까) 방식의 변화가 필요할지 모르겠다. 그 방식이란 지식의 형태에 대한 다른 이해를 요구할 수도 있다. 통찰과 자기성찰, 일관성과 창조성 같은 것에 더 큰 비중을 두는 것. AI 활용도 이런 방식의 사용이 가능하지 않을까?
건강에 관한 궁금증이 생겼을 때 유튜브를 먼저 찾는 사람이 많다. 접근이 쉽고, 말로 설명해 주며, 진료실보다 부담이 적다. 그만큼 유튜브는 검증되지 않은 정보가 유통되는 경로이기도 하다. 한국지질·동맥경화학회 윤리위원회는 잘못된 건강정보(misinformation)와 의도적 허위정보(disinformation)에 대한 학회 차원의 대응을 논의하는 자리를 마련했고, 필자는 이 자리에서 고지혈증 치료제인 스타틴 관련 유튜브 콘텐츠를 중심으로 발표했다. 이 글은 발표 내용과 준비 자료를 정리한 것이다.
시청자는 왜 보고, 제작자는 왜 올리는가
유튜브 건강정보를 평가하기 전에 두 가지 동기를 구분할 필요가 있다. 시청자 쪽에서는 증상·진단·치료에 대한 즉각적이고 구체적인 답을 찾으려는 욕구가 있다. 진료 전후에 보완적으로 정보를 확인하려는 목적, 같은 처지의 경험담에 대한 수요, 그리고 자기 건강 문제를 스스로 이해하고 결정하고 싶다는 통제감의 욕구가 함께 작용한다. 처방받은 약을 수동적으로 먹기보다 식단을 조절하거나 자신이 고른 방법으로 관리하고 싶어 하는 마음은 자연스러운 것이다.
제작자 쪽의 동기는 더 다양하다. 정확한 정보를 전하려는 공익적 동기, 전문성과 평판을 쌓으려는 동기, 조회수·광고·제품·커뮤니티 유입으로 이어지는 상업적 동기, 그리고 알고리즘에서 주목받기 위한 경쟁이 한 콘텐츠 안에 함께 들어 있는 경우가 많다. 미디어와 건강의 관계를 다룬 사회학 문헌(Seale 2002, 2003)이 지적해 온 것처럼, 매체에서 건강 정보는 오락과 시장의 논리와 분리되지 않는다. 유튜브에서는 생활·예방 수준의 건강정보와 진단·치료·약물에 관한 의학정보의 경계가 흐려지고, 정보와 재미와 주장이 섞인 인포테인먼트 형식으로 소비된다. 시청자가 형식(친근한 오락)과 내용(의학적 주장)을 분리해 받아들이기 어렵다는 점이 문제의 출발점이다.
연구가 보여주는 것
유튜브 건강정보에 대한 연구는 이미 상당히 축적되어 있다. 체계적 문헌고찰은 유튜브 건강정보의 질이 대체로 평균 이하임을 보고한다(Madathil et al. 2015). 순환기 영역만 보아도, 스타틴 관련 온라인·유튜브 정보의 질과 가독성이 낮다는 보고(Kwan et al. 2024), 부정맥 영상의 68%가 저질로 분류되고 의학 배경을 가진 게시자의 영상이 오히려 덜 인기가 있었다는 보고(Luo et al. 2022)가 있다. 오도 영상이 유용한 영상보다 덜 소비되지 않는다는 관찰(Singh et al. 2012), 추천 네트워크 안에서 정확한 정보가 고위험 시청자에게 도달하지 못한다는 분석(Yoon et al. 2022)도 반복된다. 질과 인기도가 함께 가지 않는다는 것이 이 분야의 일관된 결론이다.
이런 연구에서 흔히 쓰는 평가 도구가 JAMA 벤치마크(저자성·출처·공시·최신성), DISCERN(치료 정보의 질), Global Quality Score(전반적 질 5점 척도)다. 세 도구 모두 원래 문자 정보를 위해 만들어졌고, 영상에 적용할 때는 화면의 도표나 어조·편집 같은 비언어적 요소를 잡아내지 못한다는 한계가 있다. 그럼에도 선행연구와 비교하기 위해 표준 도구로 계속 쓰이고 있다.
스타틴 콘텐츠 파일럿에서 관찰한 것
발표에서는 2026년 8~9월에 ‘스타틴’, ‘고지혈증약 효과·부작용·중단’, ‘LDL 콜레스테롤’, ‘오메가3’ 등의 검색어로 수집한 한국어 유튜브 영상 가운데 전사가 가능한 23편을 대상으로 한 파일럿 결과를 소개했다. 평정은 위 세 도구에 내용·오정보 항목(주장의 정확성, 과장, 자의적 약물중단 권유, 비검증 대체요법, 위해 가능성, 상업적 연결)과 제작자 특성, 이해상충(COI) 고지 여부를 더한 코드북에 따라 이루어졌다. 이 단계의 평정은 대규모 언어모형이 수행한 1차 코딩이며, 전문가 평정과의 일치도 검증은 아직 진행 중이다. 아래 수치는 그 전제 위에서 읽어야 한다.
제작자 유형
편수
평균 GQS(1–5)
COI 비고지
약물중단 권유
비검증 대체요법
전문의·의료 미디어
8
4.6
1
0
0
AI 시니어·일반 채널
5
3.4
0
0
0
일반인·신원미상
4
3.5
1
0
0
약사
2
2.5
2
1
1
상업 채널
1
1.0
1
1
1
치과의사(전공 밖)
3
1.0
3
0
3
몇 가지 관찰이 두드러진다. 신뢰도가 낮은 영상은 심혈관 분야가 전공이 아닌 치과의사, 자사 제품을 직접 판매하는 상업 채널, 특정 제품을 다수 추천하는 일부 약사 채널에 집중되어 있었다. 이 영상들에서는 자의적 약물중단이나 검증되지 않은 대체요법의 권유가 함께 나타났고, 자가 클리닉·시술 유도, 공동구매, 제휴로 추정되는 제품 추천 등 이해상충이 있었으나 대부분 고지되지 않았다. 반대로 전문의가 직접 말하거나 의료 미디어가 전문의를 초대한 영상은 오히려 유튜브의 오정보에 대응하는 내용을 담고 있었고, 약을 임의로 끊지 말라는 경고를 반복했으며, 일부는 협찬 관계가 없음을 명시했다. 인공지능 내레이션으로 만들어진 시니어 대상 채널은 제목이 자극적인 경우가 있었으나 내용은 대체로 균형이 잡혀 있었고, 약과 식단의 병행을 강조했다.
또 하나 눈에 띈 것은 제목과 내용의 괴리다. “고지혈증은 병이 아니다”, “의사들이 부작용을 인정하지 않는 이유” 같은 제목을 단 영상의 실제 내용이 스타틴 치료의 근거를 설명하는 균형 잡힌 것인 경우가 있었다. 제목만으로 시청 여부를 결정하는 환경에서는 이런 괴리 자체가 오해를 낳는다.
이 파일럿에는 분명한 한계가 있다. 표본이 23편에 불과하고, 평정이 전문가 확정 전의 1차 코딩이며, 전사 텍스트에 기반해 화면과 비언어적 요소를 반영하지 못했다. 이해상충 판정 중 일부(특정 약제군 소개가 협찬인지 여부 등)는 경계 사례로 남아 있다. 그럼에도 제작자의 특성과 이해상충 고지 여부가 콘텐츠 신뢰도와 함께 움직인다는 경향은 본 연구에서 검증할 가치가 있는 가설로 보인다.
기관은 어떻게 대응하고 있는가
건강 오정보에 대한 대응은 개인의 판별력에만 맡길 문제가 아니라는 인식이 국제적으로 자리 잡고 있다. 미국 공중보건총감은 2021년 권고에서 오정보 대응을 사회 전체의 과제로 규정하고 개인·가족, 보건 전문가와 기관, 기술 플랫폼, 연구·교육기관, 정부의 역할을 각각 제시했다. 플랫폼에 대해서는 추천 알고리즘이 오정보를 증폭하지 않도록 재설계하고, 신뢰할 수 있는 출처를 노출하며, 연구자에게 데이터를 제공하라는 요구가 포함되어 있다. WHO는 인포데믹 관리를 위한 연구 의제를 측정, 신호 탐지, 개입, 회복력 강화, 도구 개발의 다섯 축으로 정리했다(Calleja et al. 2021).
순환기 학회의 대응 사례로는 미국심장협회의 두 과학성명을 들 수 있다. 하나는 영양 오정보의 확산에 대응해 대중적 식이패턴이 협회 식이지침에 얼마나 부합하는지를 평가하고, 임상가와 소비자가 특정 식단을 판단할 수 있는 틀을 제시한 것이다(Gardner et al. 2023). 다른 하나는 공유의사결정에 관한 성명으로, 임상가의 의사소통 교육, 다학제 팀, 환자의 문해 수준에 맞춘 의사결정 보조도구를 전략으로 제시한다(Dennison Himmelfarb et al. 2023).
무엇을 할 수 있는가
시청자의 입장에서 가장 중요한 원칙은 하나다. 유튜브에서 본 내용을 근거로 약을 끊거나 치료를 바꾸지 않는 것이다. 특히 스타틴처럼 효과가 즉시 체감되지 않는 만성질환 약물은 중단의 결과가 늦게, 그러나 크게 나타난다. 걱정되는 내용이 있다면 진료실에서 “유튜브에서 이런 내용을 봤는데 괜찮은가”라고 그대로 묻는 것이 낫다. 이런 질문을 주고받는 과정이 공유의사결정이며, 파일럿에서 관찰한 전문의 영상들도 같은 권고를 하고 있었다.
임상가의 입장에서는 환자가 유튜브에서 어떤 주장을 접했을 가능성을 전제하고 상담을 시작하는 것이 필요하다. 오정보의 유형은 반복된다. 스타틴이 당뇨나 치매를 일으킨다는 주장, 오메가3나 홍국 같은 보조식품이 약을 대신할 수 있다는 주장, 특정 식단이 수치를 정상화한다는 주장이 그것이다. 이런 유형을 미리 알고 있으면 상담에서 선제적으로 다룰 수 있다.
학회 차원에서는 몇 가지 실행 과제를 생각할 수 있다. 학회 명의로 스타틴·오메가3·콜레스테롤에 관한 핵심 메시지를 표준화한 대중용 자료를 만드는 것, 반복되는 오정보 유형을 목록화하고 정기적으로 모니터링하는 것, 회원 전문가가 만드는 콘텐츠를 지원하고 큐레이션하는 것, 그리고 제작자의 자격·이해관계·근거 수준을 표시하는 규범을 제안하는 것이다. 본 연구에서 시도하고 있는 인공지능 보조 평정은 대량의 콘텐츠를 1차 선별하는 도구로 쓰일 수 있을지 검토 중이다.
유튜브는 이미 주요한 건강정보 경로가 되었고, 그 안에는 질 높은 전문가 콘텐츠와 상업적 목적이 섞인 콘텐츠가 함께 있다. 파일럿에서 관찰한 것은 이 둘을 가르는 요인이 제작자가 누구이며 어떤 이해관계를 가지고 있는지, 그리고 그것을 밝히는지와 관련되어 있다는 점이다. 다음 단계는 전문가 평정과 인공지능 평정의 일치도를 검증하고, 이 경향이 더 큰 표본에서 유지되는지 확인하는 일이다.
이 글의 초안은 생성형 AI(Claude, Anthropic)를 활용하여 작성되었다. 작성자가 강연 내용과 발표 자료를 제공하고 구성 방향을 지시하여 초안을 생성하였으며, 이후 작성자가 내용의 사실관계를 확인하고 수정·보완하여 최종안을 확정하였다. 최종 내용에 대한 판단과 책임은 전적으로 작성자에게 있다.
참고문헌
Seale C. Media and Health. London: Sage; 2002. / Seale C. Health and media: an overview. Sociology of Health & Illness 2003;25(6):513-531.
Madathil KC, et al. Healthcare information on YouTube: a systematic review. Health Informatics J 2015;21(3):173-94.
Kwan JY, et al. Assessment of internet-based information on statin therapy. Eur J Cardiovasc Nurs 2024;23(2):115-121.
Luo C, et al. Does YouTube provide qualified patient education videos about atrial fibrillation? Front Public Health 2022;10:925691.
Singh AG, Singh S, Singh PP. YouTube for information on rheumatoid arthritis—a wakeup call? J Rheumatol 2012;39(5):899-903.
Yoon HY, et al. Understanding the social mechanism of cancer misinformation spread on YouTube. J Med Internet Res 2022;24(11):e39571.
Office of the U.S. Surgeon General. Confronting Health Misinformation. Washington, DC: US HHS; 2021.
Calleja N, et al. A public health research agenda for managing infodemics. JMIR Infodemiology 2021;1(1):e30979.
Gardner CD, et al. Popular dietary patterns: alignment with AHA 2021 dietary guidance. Circulation 2023;147(22):1715-1730.
Dennison Himmelfarb CR, et al. Shared decision-making and cardiovascular health. Circulation 2023;148(11):912-931.
지난 9월 2일부터 5일까지 보건복지부 생애말기돌봄계획수립 연구의 일환으로 호주 빅토리아주 멜버른을 다녀왔다. 연구실 동료들과 복지부 담당자가 함께한 짧은 일정이어서 느긋하게 커피를 마시거나 펭귄 서식지를 방문하는 호사를 누리지는 못했다. 그걸 사람들로 채웠다고 하면 억지일까? 첫날 오후 VAD Care Navigator(Voluntary Assisted Dying Care Navigator) 팀을 만나러 St. Vincent의 Peter MacCallum 센터로갔다. 빅토리아를 포함해서 호주의 생애말기돌봄 제도는 UK와 비슷한 시기 정립되기 시작했으나 이후 제도의 정립, 운영과 개선 작업은 다른 어떤 나라보다 점진적으로, 그러나 분명하게 진행되었다. 사람들은 호주의 VAD가 법으로 존재한다는 것에만 관심을 갖곤 하지만 방문의 목적은 입법에 이르는 과정이었고, 제도화 이후 지속적으로 의견을 수집하고 반영하는 전력에 관한 것이었다. 이날 방문한 센터는 정책보다는 실행 조직이었는데 이들이 이해하고 있는 제도를 조금 이해할 수 있었다. 이미 시행 중인 VAD 제도를 환자 돌봄의 수준을 높이는 방식으로, 환자에게 가능한 선택지를 추가하는 것으로 이해하고, 결정을 받아 적는 것이 아니라 결정을 포함한 모든 가능성을 상의하는데 집중하는 것을 들었다- 7년간 환자와 현장의 경험으로 다듬어졌다고 말했다. 자격을 얻은 사람의 약 3분의 1이 끝내 약물을 쓰지 않는다는 이야기가 오래 남는다. 그들에게 VAD는 죽음의 선택이 아니라 남은 삶을 안정시키는 통제감이었다. 이튿날 주에는 빅토리아 보건부(Department of Health)와 정부와 밀접한 관계에 있지만 독립한 조직인 Safer Care Victoria를 방문했다. 보건부의 생애말기돌봄 정책 유닛이 우리를 맞아 주었고 이들은 완화의료, 사전돌봄계획(ACP), VAD를 따로 떼지 않고 하나의 생애말기 돌봄 체계로 묶어 설명했다. 반복된 원리는 세 가지였다. 문서보다 대화가 먼저이고, 치료가 줄어도 돌봄은 지속되며, 환자뿐 아니라 의료인도 보호받아야 제도가 지속된다는 것이다. 우리를 맞아주었던 책임관(Peter Mac에서 완화의료를 담당하던 나이 지긋한 임상의사 Mark Boughey가 생애말기돌봄을 총괄하는 디렉터로 옮긴 것도 인상적이었다)은 우리를 다른 연구자, Queens’s University에서 ELLC라는 프로그램 (임상의사들에게 생애말기돌봄관련 법률 교육을 제공)을 총괄하는 동료에게 이렇게 소개했다. ‘여기 한국 동료들이 우리가 10~15년 전 고민했던 문제를 다루고 있어’ 같은 날 오후에 일차의료학회(RACGP)의 생애말기돌봄 연구모임 책임자와 면담을 할 수 있었다. 오후에 온라인으로 만난 RACGP 일반의들은 좀 더 솔직했다. 법과 전자기록, 수가가 다 갖춰져도 의사와 환자가 서로 먼저 말 꺼내기를 기다리는 “상호 대기”는 여전하며, 전국 단위 모니터링이 부족했던 점은 자국의 아쉬움이라고 했다. 비슷한 고민이 있다는 것이 위로였다면 문제해결을 위해 학회가 교육과 자격관리(한국에도 있는 연수평점제도를 활용해서)를 통해 상황을 개선하고 있다는 점은 숙제로 남겨졌다. 이런 순간은 내가 임상의사였다면 어땠을까 하는 생각도 하게 된다. 마지막 날 Monash Bioethics Centre에서는 두 WHO 협력센터가 학생교류, 정기 웨비나, 공동연구로 이어질 협력의 가능성을 탐색했다. 학생들은 좋겠다는 생각도 했고, 한국 대학의 일개 연구진을 부총장까지 나와 메인 회의실에서 행사를 해 준 이유가 무엇일지 궁금하기도 했다. hospitality일터, 그러나 부담도 남았다. 연구자들을 만나니 기관을 찾아다니며 느끼던 부담이 조금 덜어졌다. 우리를 개인적으로 맞아준 사람들이 있다. 첫날은 Rob Sparrow와 Justin Oakley 교수가, 둘째 날은 연수와 있는 송인규 교수가 (장소 소개로- 이방인에게 밥먹을 만한 곳을 소개해 주는 것은 꽤 큰 도움이 된다), 마지막 날은 이제는 큰 형님 같은 Eshan Gooshki 교수가 페르시안 쿠진으로. 돌아오는 길에 이런 생각을 해 보았다. 한국의 연명의료결정이 사망 며칠 전에 몰리는 구조를 바꾸는 일은 서식 하나를 고치는 일이 아니다. 지침, 교육, 수가, 기록, 내비게이션, 그리고 공론화가 함께 움직여야 한다. 멜버른은 그것을 20년 가까이 해 온 곳이었다.
AI 리터러시를 흔히 도구를 다루는 기술로, 즉 프롬프트를 잘 쓰고, 어떤 모델이 무엇에 강한지 알고, 결과물을 업무에 끼워 넣는 숙련을 가리키는 말로 좁게 이해하고 사용한다. 분명히 이 기술적 층위는 필요하다. 생성 모델이 통계적 패턴으로 다음 단어를 예측하는 장치라는 사실, 그래서 사실과 그럴듯한 허구를 똑같이 자신감 있게 출력한다는 한계, 답변에는 학습 데이터의 편향이 반영되어 있으므로 주의를 기울여야 한다는 점을 모르면 안된다. 이것은 도구가 산출하는 결과물을 검증하는 태도를 요청한다. 이렇게 기술의 작동 원리, 적용 사례, 한계, 그리고 개인정보나 저작권 같은 사용상의 주의점을 강조하는 것이 리터러시의 기본 항목이다.
그러나 이 목록은 모두 기술을 대상으로 한다. 모델이 무엇을 하는가, 어디까지 믿을 수 있는가를 묻기는 하는데, 정작 그 도구를 쓰는 사람 자신은 관심의 대상 밖이다. 같은 챗봇의 결과물을 어떤 사람은 초안으로 여기고 받아 고쳐 쓰지만, 어떤 사람은 그대로 제출한다. 어떤 사람은 모델에게 반박을 요구한 뒤 검토하고, 어떤 사람은 답변 중에서 자기 생각을 확인해 주는 문장만 골라 읽는다. 도구의 성능이 같아도 결과가 갈리는 지점은 사용자의 습관과 성향에 있다.
그래서 리터러시에는 자기 자신을 읽는 항목이 들어가야 한다. AI에 맡기는 일과 그렇지 않은 일의 경계가 인공지능의 능력에 따라 그은 것인지, 아니면 편의-귀찮음-에 따른 것인지, 모델이 유창하게 답할 때 나는 검증을 건너뛰는 습관이 있는가. 내가 듣고 싶은 답을 유도하는 방식으로 질문하고 있지는 않은가 같은 물음은 기술 지식과는 다른 종류의 지식을 요구한다. 아주 쉽게는 자신의 사용 기록을 돌아보아야만 답할 수 있다.
자기 취약점을 아는 일은 특히 중요하다. 사람마다 약한 지점이 다르다. 어떤 사람은 수치에, 어떤 사람은 매끄러운 문장에 쉽게 설득된다. 2,784명을 대상으로 한 한 실험에서는 AI에 호의적인 태도를 가진 사람일수록 잘못된 제안을 수정하지 않고 그대로 받아들였고, 회의적인 사람이 오류를 더 안정적으로 잡아냈다 모델의 한계만큼이나, 빨리 판단을 끝내려는 조바심과 권위 있어 보이는 출처에 기대려는 경향 같은 사용자 자신의 한계가 오류의 원인이 된다. 결국 AI 리터러시는 두 방향의 읽기다. 도구를 읽는 능력과 그 도구를 쓰는 자신을 읽는 능력. 앞의 것만 갖춘 사람은 성능 좋은 도구를 손에 쥐고도 자기 편향을 증폭한다. AI를 잘 쓴다는 말은 도구를 아는 동시에 자신을 아는 상태를 가리킨다.
내가 구독하는 블로그에는 신학교(Trinity International University, TIU) 에서 운영하는 생명윤리 블로그도 포함되어 있다. 이 블로그에서 심각하게 받아들였던 논문이 하나 있었는데 새로운 아이가 태어날 때마다 탄소 배출량이 증가해서 결국 환경에 부담이 된다는 내용의 논문이다. 논문의 결론은 개인은 환경에 미치는 부담을 고려해서 출산을 결정해야 한다는 다소 윤리적인 내용이었다.
TIU 블로그는 논문이 출산을 도덕적으로 해를 입히는 행위로 간주한다고 하여 우려를 표한다. 사람 생명의 측정할 수 없는 가치(the immeasurable value of a human life)는 말 그대로 측정할 수 없기 때문에, 측정할 수 있는 탄소배출량보다 가볍게 여겨진다는 것이다. 블로그는 아이가 태어나는 일이 좋은 일이라는 입장(natalism의 입장)을 갖고 있는 것 같다.
영국의 철학자 Derek Parfitt은 흥미로운 질문을 던진다. “아이가 태어나는 것이 좋고 아이의 수가 많을수록 더 좋다면, 아이들이 형편없는 환경에 처하는 것을 감수해야 하는가?” 우리 직관은 그렇지 않다고 답하는 것 같다. 아마 신중한 답변은 “일정한 생활 수준이 유지될 수 있다는 조건 아래서 인구가 많을수록 좋다” 정도가 될 것 같다.
다음 질문은 이것이다. 일정한 수준은 어떻게 정할 수 있을까? 탄소배출량과 지구온난화는 생활수준에 얼마나 심각한 위협인가? 어떤 환경주의자들은 인간없는 세상을 상상하고, 어떻게든 인류가 – 집합적으로- 산아제한을 하자고 주장한다. (인간없는 세상. 앨런 와이즈먼) 이 주장이 심한 것 같은가? 아이가 무조건 축복이라는 농경시대 관습은 심하지 않은가?
더 이상 이념이 우리 사회에 휘몰아치지 않게 바뀌기를 바란다. 원래 생명윤리문제는 이념적인 것인가?
1. 현상은 이념적이다.
낙태, 안락사, 줄기세포와 같은 문제들은 종교 가치를 중시하는 사람들이, 자원분배와 사람대상연구는 정치적 가치를 중시하는 사람들이 자기 이념을 품고 들어온다. 이들의 이념과 헌신이 없었다면 생명윤리가 오늘날과 같이 인정받는 분야가 되지 않았을 것이다. 종교적, 정치적 신념은 흔히 묵살당하는 생명의 문제를 자기 문제로 만들게 했고 담론의 주제가 되게 하고 결국에는 학문의 영역으로 발전시켰다.
2. 현상은 정당화가 필요하다.
한국 사회의 교조주의 탓일지, 이들의 신념은 강압적이며 타협-검증을 거부한다. 다원화된 한국사회에서 자기 목소리를 조직화할 수 있는 이 두 집단은 소수임에도 “효울적, 효과적”으로 자기 논제를 관철시켰다. 생명을 기치로 든 자들은 실력을 행사하고 있는 것이다. 철학적 논변도 정치제도를 통한 의사결정도 거부한 채 다시 인력을 동원하는 최근의 낙태관련 논쟁을 보니, 이들은 결국 교권주의자에 불과하다. 솔직히 이들의 서명운동은 내부단합용이고 정치권에 압력을 행사하는 수단에 불과하다. 더이상 합리성을 기대하기 어려워졌구나.
죽음, 죽어감에 관한 논의에서는 돌봄과 자기결정권이라는 두 가지 원칙이 제시된다. “어떻게 하면 불편함을 줄이고 생명의 존엄을 유지할 것인가?”가 돌봄의 원칙이 해결하려는 질문이라면, “인격체로서 자기 삶의 방식을 결정하고 실천하도록 어떻게 도울 것인가?”가 자기결정권의 원칙과 관련된 문제다. 최근에 흥미롭게 읽었던 어느 잡지(시애틀법대 학술지) 특별호는 돌봄과 자기결정권으로는 해결하기 어려운 상황을 다룬다. 바로 치매환자의 자기결정권 존중의 문제다.
치매가 고약한 것은 이 병이 판단과 결정에 영향을 미친다는 것이다. 또 이것이 이 병의 가장 분명한 진행경과다. 어떤 이들은 치매가 심해지면 죽을 수 있도록 해달라고 요청하리라. 그런데 이 요청을 어떻게 ‘확인’하고 ‘실행’할 것인가? . 급식관을 통한 영양공급(인공영양공급)은 미국 법제 안에서 전적으로 환자와 가족이 결정할 수 있고, 환자가 이전에 서류를 작성해 두었다면 시작하면 안된다. 즉 환자가 중등도 이상의 치매 때문에 의사능력을 상실한 상황이라면, 그리고 스스로 음식을 먹을 수 없게 된다면 비위관(콧줄)을 통한 영양공급은 거부할 수 있는 치료 방식이 된다. 미국의 환자교육 자료에서는 이런 종류의 영양공급이 환자에게 도움이 되지 않는다고 밝히고 있다.
문제는 최근에 일부에서 제시하는 자발적 금식중지(Voluntary Stopping of Eating and Diet, VSED)의 문제다. 어떤 사람이 먹지 않기로 결정했다면, 금식으로 인해 사망하게 된다해도 강제로 급식하면 안된다는 것이 윤리적으로 합의된 사항이다. 의사결정능력이 있는 성인이 먹지 않겠다면 존중해야 한다.그런데 치매환자(의사결정능력이 없는)는 어떻게 해야 하나? 몇 가지 가능한 경우가 있다. 1. 의사결정능력이 없는 치매 노인이 급식을 거부한다. 2. 이전, 치매가 많이 진행되기 전에 환자가 치매가 많이 진행되어 직접 먹을 수 없게 되면 급식을 원하지 않는다고 말한 노인이 급식을 거부한다. 3. 급식을 원하지 않는다고 말했는데 정작 중단하니 먹겠다고 한다.
2.의 경우는 상대적으로 판단이 쉽다 (실천은 별개로 하자. 어려우니까). 1.의 경우에는 해석이 필요하다. 그저 밥이 맛이 없어서 그런 것인지, 그보다 깊은 이유가 있는지. 그리고 존중할만한 이유인지. 3.의 경우가 앞서 논문들이 다룬 내용이다. 말 그대로 배고픔으로 고통받는 사람을, 이전의 부탁을 이유로 ‘굶길’ 것인가? 이것이 허용되는 치료 방식인가?
잠정적인 결론은 있지만 아직 잘 정리되지는 않았다. 또 1.의 경우 일반적으로 치료하는 것이 옳은지 잘 모르겠다. 2.도 무조건 중단하는 것은 경솔한 행위가 될 수 있다고 본다. 그리고 좀 더 근본적인 의문이 있다. 음식을 먹지 못할 정도의 치매 환자를 윤리적으로 돌본다는 것은 무엇인가? 얼마나 ‘적극적’인 조치를 취해야 하는가?
이번 주 JAMA 편집자주가 눈길을 끌었다. 임종환자가 흔히 겪는 섬망, 그 중에 과잉행동 섬망에 어떤 치료를 사용할 것인가를 다룬 임상시험을 소개하면서 편집자는 중요한 것은 어떻게 humaness 를 임상적 결정에 반영할 것인가의 문제라고 결론을 짓는다. 재우는 일은 의료진에게는 (상대적으로) 쉬운 선택이고, 가끔은 가족에게 그리고 그보다 조금 드물게 환자 본인에게 좋은 선택일 것이다. 죽음을 앞둔 최후의 시간을 약에 잠들어 보내는 것이 최선이라고 말할 사람은 없을 것이다. 편집자의 말은 할돌을 쓰든 할돌에 로라제팜을 섞든 이 과정에서, 비경제적이고 고된, 선택을 내리는 과정에서 조심하라는 말이다. (의료진에게) 조금 가혹하게 들릴지 모르지만 나도 그렇게 생각한다. 모든 치료 결정은 윤리적 결정이다.
아직 치료법이 없는 질병이 알츠하이머 치매다. 조기 진단 외에 – 조기진단이 삶의 질에 어떤 영향을 미치는지 확인이 필요하겠다 – 질병 진행에는 어떤 영향을 미칠 수 없는 조기진단법은 구원이 될 수 있을까? 미국 UCLA에서 조기진단이 가능할 수 있겠다는 연구 결과를 내 놓았다. 확립된 치료법이 없는 다른 질환의 경우와 마찬가지로 알츠하이머 치매에 이것은 어떤 의미를 갖는가? 치매의 공포를 생각하면 치매 예측이 가능해진다면 대부분의 건강검진에 포함될 것이고 이 MRI는 또다른 건강정보 프라이버시 문제로 확대될 것이다. 이 검사를 두고 원론이 반복될지 모른다.
치료가 없어도 나는 알고 싶다 vs 치료할 수 없다면 모르는 것이 낫다
이것은 유전성질환과 또다른 문제다. 유전성질환은 가족의 경과를 지켜보며 본인의 위험성을 예측한 것이지만 아직 유전성향이 확립되지 않은 치매의 경우에는 개인의 위험성 감수가 다른 문제다. 그리고 이런 문제도 있겠다. 사회적으로 치매 위험성을 아는 것은 어떤 효용가치가 있을까? 진료비를 아낄 수 있는가? 차별의 가능성은 있는가? 적절한 대책을 마련해서 실제 도움을 환자에게 제공할 수 있는가?
