Self-hosted AI 모델
직접 운영하는 AI 서버나 OpenAI 호환 서버에 연결하고, 구성원이 사용할 모델을 고릅니다.
연결하기 전에 준비할 것
AI 연결Self-hosted모델 관리에서 AI 서버를 연결합니다. 서버 운영자에게 서버 종류, 주소, 필요한 API key와 사용할 모델 ID를 확인하세요. Ollama뿐 아니라 지원되는 OpenAI 호환 서버도 연결할 수 있습니다.
Self-hosted 연결이 항상 사내 서버를 뜻하지는 않습니다. 외부 연결은 HTTPS 주소가 필요하며 회사 밖으로 요청이 나가므로 해당 서비스의 데이터 처리 조건과 요금을 확인하세요. HTTPS는 전송 구간을 보호하는 방식이며 사내 처리 여부를 보장하지는 않습니다.
AI 서버 연결하기
- 1 AI 서버 연결에서 연결 추가를 누릅니다.
- 2 서버 종류와 서버 주소를 입력하고 알아보기 쉬운 별칭을 정합니다.
- 3 인증이 필요한 서버라면 API key (선택)를 입력하고 연결을 누릅니다.
- 4 연결 결과를 확인합니다. 주소나 인증 정보를 바꿨다면 연결 테스트로 다시 확인합니다.
서버 종류와 주소를 그대로 둔 채 기존 연결을 수정할 때는 API key를 비워 두면 저장된 키가 유지됩니다. 키를 없애려면 저장된 API key 제거를 선택하고 저장하세요.
서버 종류나 주소를 바꾸면 다른 연결로 처리하며 기존 API key를 가져가지 않습니다. 인증이 필요한 새 서버의 키를 다시 입력하세요. 기존의 사용할 모델 설정도 초기화되므로 연결 후 모델을 다시 선택하고 저장해야 합니다.
구성원이 사용할 모델 고르기
- 1 사용할 모델의 왼쪽에서 AI 서버를 선택합니다.
- 2 사용할 모델을 오른쪽으로 드래그합니다.
- 3 필요하면 컨텍스트 한도를 실제 서버가 지원하는 범위에 맞춥니다.
- 4 선택한 모델 저장을 누른 뒤 저장된 목록을 확인합니다.
서버가 모델 목록을 제공하지 않으면 운영자에게 정확한 ID를 받아 모델 ID 직접 입력에 넣고 추가합니다. 이름을 임의로 만들면 실제 요청에서 모델을 찾지 못할 수 있습니다.
연결 등록과 사용할 모델 저장은 별도입니다. 연결 테스트가 정상이더라도 사용할 모델을 선택하고 저장했는지 확인하세요.
연결 상태 읽기
| 상태 | 먼저 확인할 것 |
|---|---|
| 미검증·재검증 필요 | 연결 테스트를 실행합니다. 주소나 연결 대상이 바뀌었다면 다시 검증합니다. |
| 정상 | 서버 연결이 확인된 상태입니다. 실제 사용할 모델도 선택되어 있는지 확인합니다. |
| 인증 실패 | API key가 필요한지, 키가 유효하고 해당 모델 권한이 있는지 확인합니다. |
| 연결 오류 | 서버 실행 상태, 주소, 네트워크와 인증서 설정을 운영 담당자와 확인합니다. |
| 현재 조회 안 됨 | 일시적으로 모델 목록을 가져오지 못할 수 있습니다. 서버 상태를 확인한 뒤 다시 조회합니다. |
모델 목록을 잠시 조회하지 못했다고 기존에 저장한 모델을 바로 삭제할 필요는 없습니다. 서버가 복구되었는지 먼저 확인하세요.
연결을 정리할 때
연결을 삭제하면 해당 연결과 채팅 허용 모델 설정이 함께 삭제됩니다. 구성원이 사용 중인 모델인지 확인하고 진행하세요. 서버에 설치된 모델을 제거하는 작업과는 구분됩니다.
모델이 보이지만 답변에 실패하면 선택한 모델 ID, 서버의 모델 준비 상태와 컨텍스트 한도를 확인하고 오류 내용을 운영 담당자에게 전달합니다.