신청서 PDF를 올리면 구간을 나눠 번역·요약합니다. 항목을 누르면 원본의 해당 위치가 표시됩니다.
베이스 주소(…/v1)만 넣으면 됩니다.
/models 나 /chat/completions 까지 붙여 넣어도 알아서 정리합니다.
호출은 /chat/completions, 목록 조회는 /models 로 나갑니다.
vLLM 을 --api-key 없이 띄웠다면 비워 두면 됩니다.
비워 두면 Authorization 헤더 자체를 보내지 않아 preflight 도 줄어듭니다.
vLLM 이 로드한 스냅샷 경로를 그대로 씁니다. 확실하지 않으면 [모델 목록] 을 눌러 서버가 실제로 서빙 중인 ID 를 보고 고르세요.
업로드한 PDF 를 이 면 수만큼 잘라 묶음마다 한 번씩 판독을 호출합니다. 기본 3면입니다. 크게 잡으면 호출 수는 줄지만 응답이 길어져 잘릴 위험이 커지고, 작게 잡으면 안전한 대신 호출이 늘어납니다.
텍스트 층이 없는 면은 이미지로 만들어 함께 보냅니다. 이 값은 묶음마다 적용됩니다. 묶음에 담긴 스캔 면이 이보다 많으면 앞쪽 면만 보내므로, 묶음당 면 수 이상으로 잡아 두세요. 너무 키우면 요청이 커져 서버가 끊을 수 있습니다.
호출마다 적용되는 응답 길이 상한입니다. 서술형 답변을 원문 그대로 받으면 길어지니 넉넉히 잡으세요.
수기 분량이 많은 묶음과 2단계 요약이 특히 많이 씁니다.
모델이 실제로 낼 수 있는 길이보다 크게 잡아도 손해는 없습니다 —
서버가 이 값을 거절하면 알아서 낮추거나 max_completion_tokens 로 바꿔 다시 보냅니다.
0 이면 서버 기본값에 맡깁니다.
넘으면 뒤쪽을 자르고 알려 줍니다. 너무 크게 잡으면 오히려 실패합니다 — 모델 문맥 창을 넘고, 서버·프록시가 큰 본문을 끊으면 브라우저에는 CORS 차단과 똑같이 보입니다. 20만 자 안쪽을 권합니다.
Access-Control-Allow-Origin 을
내려주지 않으면 주소가 맞아도 차단됩니다. 이 경우 [경로 찾기]에 전부 차단 으로 표시됩니다.
vLLM 은 --allowed-origins 옵션으로 이 화면의 출처를 허용해 주면 해결됩니다.