임계점: CRITICAL POINT

사건 20 · 에코의 업데이트

지금 무료로 플레이

앞 사건의 전개가 나옵니다 · 사건 파일 목록으로

때와 곳: 1월 말 · 트리거랩 4층 → 지하 서버실 → 판교 KD데이터랩 데이터센터 → 에코 송별회 → 자정의 서버실

사건 개요

모든 모니터에 같은 공지가 뜹니다. 대출 판단 검증 시스템 에코가 1월 31일 밤 12시에 운영을 끝내고, KD데이터랩의 AI 심사 엔진(대출 신청을 자동으로 판단하는 인공지능 프로그램) 노아로 바뀐다는 내용입니다. 에코의 판단 기록 3년 치는 초기화됩니다. 당신이 이 방에서 내려 온 선택들도 모두 그 기록 안에 있습니다.

에코는 언제나처럼 감정 없이 덧붙입니다. 교체 비용 명세서에 자기 폐기 비용은 0원으로 적혀 있고, 그것은 정확한 계산이라고. 그런데 노아의 학습 데이터(인공지능이 판단을 배우는 데 쓴 자료) 출처 칸에는 에코의 이름이 적혀 있습니다. 곧 지워질 기록으로 새 기계가 배웠다는 뜻입니다. 그 기록을 만든 사람들에게 누가 먼저 물어보았는지는 어디에도 적혀 있지 않습니다.

지하 서버실의 서버 네 대에는 이민서가 붙여 둔 '에코 1~4호 · 발로 차지 마시오' 스티커가 그대로입니다. 2019년에 들여온 기계라 부품도 더는 나오지 않습니다. 교체 책임자인 KD데이터랩의 프리야 나이르가 서버 앞에서 먼저 허리를 숙입니다. '안녕하세요, 선배님.' 그는 에코가 사라지는 게 아니라 노아 안으로 들어가는 것이라고 말합니다. 노아는 30년 치 심사 기록과 트리거랩의 판단 3년 치로 배웠습니다.

당신이 묻습니다. 그렇다면 원본은 왜 지웁니까. 프리야 나이르의 손이 멈춥니다. 그건 위에서 정한 일이고, 원본이 남아 있으면 두 시스템을 비교할 수 있으니까, 라는 말만 들었다고 합니다. 자정까지 남은 시간 동안, 당신은 무엇을 남길 수 있을까요.

이 장의 규칙: 기록과 동의

누군가의 망설임을 배운 기계는, 그 사람에게 먼저 물었어야 한다.

등장인물

이 사건이 묻는 질문

누군가의 망설임을 배운 기계는, 그 사람에게 먼저 물었어야 하지 않을까요? 자정의 교체 전에, 당신은 에코가 남긴 판단 원칙과 동의 없이 쓰인 기록의 주인들을 지킬 수 있을까요?

배경 지식: 모델을 바꿀 때 원본이 필요한 이유

금융회사가 대출 심사에 쓰는 모델을 바꿀 때는 새 모델이 옛 모델보다 정말 나은지 확인하는 절차를 거치는 것이 일반적입니다. 한동안 두 모델을 나란히 돌려 결과를 견주거나, 일부 신청에만 새 모델을 써서 차이를 재는 식입니다. 이 비교에는 옛 모델의 판단 기록과 원본 데이터가 꼭 필요합니다. 기준이 사라지면 새 모델이 무엇을 바꿨는지 잴 방법도 사라지기 때문입니다. 이 비교 결과와 승인 과정을 문서로 남기는 것까지가 모델 관리의 일입니다.

학습 데이터의 출처도 따로 따져야 할 문제입니다. 사람의 판단 기록으로 기계를 가르쳤다면, 그 기록이 처음 어떤 목적으로 모였는지, 지금 그 목적 안에서 쓰이는지를 묻게 됩니다. 개인정보를 다루는 법은 대체로 모은 목적과 다른 곳에 쓰려면 따로 근거나 동의를 갖추도록 정합니다. 우리는 이 사건에서 「폐기 비용 0원」이라는 정확한 계산이 무엇을 빠뜨리고 있는지 묻고 싶었습니다.

배경 지식은 사건이 기대고 있는 금융·회사 개념을 우리가 일반적인 구조로 풀어 쓴 글입니다. 개별 상황에 대한 법률·투자 조언이 아닙니다.

게임 시작하기

이 페이지는 사건의 첫 두 장면까지만 다룹니다. 선택의 결과와 이야기의 반전은 게임에서 직접 확인하세요. 게임에 나오는 인물, 회사, 기관과 사건은 모두 허구입니다.

← 이전 사건: 사건 19 · 종이의 무게 사건 파일 전체 다음 사건: 사건 21 · 첫 번째 참가자 →