서류에서 서명 부분만 잘라내려면 위치가 필요하고, 상품 사진을 정해진 선택지로 분류하려면 분류값이 필요하다. TypeSafe의 Jev는 이런 짧은 판단을 프로그램에 붙이는 모델이다. 10월 14일 공개한 Jev 1.14.0에서는 이미지 속 대상의 위치를 반환하는 box 유형이 추가됐다.
이 기능을 곧바로 기존 자동화에 켜는 업데이트는 아니다. TypeSafe는 새 모델의 일반적인 판단 개선과 이미지·긴 입력 같은 실험 기능을 분리했다. 이미지는 요청마다 별도 헤더로 활성화해야 하며, 회사는 이미지와 Box를 아직 운영용 품질 기준에 도달하지 않은 기능으로 분류한다. 새 기능을 써볼 수 있다는 것과 그 결과에 업무를 맡겨도 된다는 것을 구분한 릴리스다.
사진을 넣으면 설명 대신 무엇을 돌려줄까
기존 Jev가 반환하던 짧은 판단에는 선택지 하나를 고르는 값, 점수, 예·아니오에 해당하는 값이 있었다. Box는 질문의 대상을 감싸는 사각형 하나를 돌려준다. 공식 문서의 머그잔 예제에서는 왼쪽 0.44, 오른쪽 0.84, 위쪽 0.25, 아래쪽 0.82가 답이다. 좌표는 픽셀이 아니라 이미지 너비와 높이에 대한 비율이다.
이미지를 확대하거나 줄여도 같은 비율을 쓸 수 있다. 실제로 잘라낼 때는 좌우 값에 이미지 너비를, 위아래 값에 높이를 곱한다. 서류의 서명란이나 사진 속 물건을 찾아 후속 처리를 할 때 연결하기 쉬운 출력이다. 이는 문서가 제시한 활용 방향이며, 위 좌표는 공식 설명용 예제다. 대상이 여러 개일 때 모두 찾아주는 객체 목록과는 다르다.
Box를 쓰려면 jev-preview 또는 jev-1.14.0을 지정하고 TypeSafe-Danger-Zone-Images: true 헤더를 보낸다. 이미지 입력 자체는 이전 버전인 1.13도 지원하지만, Box는 1.14가 필요하다. 이미지와 새 출력 유형을 같은 기능으로 묶어 이해하면 버전 선택을 틀릴 수 있다.
이미지는 공통 입력인 state, 질문 지시문인 instructions, 판정 기준인 criteria에 넣을 수 있다. 예를 들어 분실한 개의 사진을 기준으로 두고 발견한 개와 같은 개인지 묻는 식이다. 파일은 assets에 등록하고 필요한 위치에 참조 문자열을 넣는다. 사진 하나에 포괄적인 판단을 맡기기보다 같은 개인지, 목줄이 있는지처럼 질문을 나누는 방식이 공식 문서의 예제에도 나타난다.
긴 문서를 읽게 하는 옵션은 기본 한도와 어떻게 다른가
일반 요청의 한도는 요청 전체 64k 토큰, 질문 하나와 공통 입력을 합친 범위 32k 토큰이다. 긴 입력 헤더를 켜면 두 한도가 각각 262k 토큰으로 늘어난다. 한 요청에 담긴 모든 질문의 합과 개별 질문의 크기를 따로 제한한다는 점을 알아야 한다. 질문 수만 줄여도 공통 입력이 너무 크면 한도를 넘을 수 있다.
옵션 이름은 TypeSafe-Danger-Zone-Long-Context: true다. 1.13과 1.14 모두에서 쓸 수 있고, 토큰당 요금은 동일하다. 공식 문서는 긴 입력이 기본 한도 안의 요청보다 느리고 정확도도 낮다고 설명한다. 긴 계약서를 통째로 넣을 수 있게 됐어도, 판단에 필요한 조항을 추려 보내던 과정을 무조건 없앨 이유는 없다.
운영 중인 모델의 버전도 별도로 관리해야 한다. 10월 15일 확인한 문서에서 jev-latest는 1.13.0, jev-preview는 1.14.0을 가리킨다. 발표문은 latest를 일주일 뒤 1.14.0으로 바꾸겠다고 예고했다. 별칭을 쓰면 코드가 같아도 응답 모델이 바뀔 수 있다. 분류를 자동 승인하는 확률 기준을 맞춰 둔 업무라면 버전 ID를 고정하고 새 버전에서 같은 입력을 비교하는 편이 낫다.
오류 분석에 동의하는 설정은 학습 허용과 같은가
이번 발표에는 조직의 입력과 출력을 TypeSafe가 읽고 분석하도록 허용하는 선택 설정도 담겼다. 공식 설정 화면의 설명은 모델이 불안정하게 판단하는 사례를 찾기 위한 것이며, 조직 전체에 적용된다고 적혀 있다. TypeSafe는 이 선택을 켜도 고객 질의로 모델을 학습하지 않는다고 밝혔다. 학습에 쓰지 않는다는 설명만 보고 입력·출력 열람까지 없다고 생각해서는 안 된다.
1.14의 모델 개선은 전반적인 소폭 향상이며, TypeSafe는 다국어에서 가장 큰 개선을 기대한다고 설명했다. 발표에 실린 내부 종합 지표는 1.13의 58.9에서 1.14의 60.0으로 올랐다. 회사가 비공개 검증 세트로 만든 지표이므로 한국어 서류 분류나 사진 좌표의 정확도를 그대로 나타내지는 않는다.
이번 릴리스를 적용할 때는 일반 판단의 버전 교체와 이미지·긴 입력 실험을 다른 변경으로 다루는 편이 좋다. 기존 입력으로 1.14의 판단을 비교하고, 위치 찾기는 별도 시험 흐름에서 검토할 수 있다. 좌표와 함께 오는 confidence 값도 곧바로 자동 처리 허가로 삼기보다 실제 업무 사진에서 기준을 정해야 한다. 공식 Box 문서 역시 일괄 권장 임곗값을 제시하지 않는다.
출처: TypeSafe, Jev: For the Builders AND Dreamers · 이미지 입력 · Box · 모델·입력 한도