자체 AI 제공자 사용: Archyl에서 OpenAI, Claude, Gemini 또는 Bedrock 사용하기

처음 Fortune 500 아키텍처 팀에 Archyl을 시연했을 때, 대화는 정말 잘 진행되고 있었습니다 — 23분까지는요.

"정말 훌륭합니다. 진심입니다. 하지만 우리 보안 팀은 코드를 당신네 AI를 통해 보내는 것을 허용하지 않을 겁니다. 우리는 Bedrock을 통해 Anthropic 계약이 있어요. 모든 게 그 엔드포인트를 거쳐야 합니다."

그때까지 같은 대사의 변형을 열두 번쯤 들었습니다. 다른 회사, 다른 제공자, 같은 벽:

"우리는 이미 Azure OpenAI를 사용하고 있어요." "우리 데이터는 eu-central-1에 머물러야 합니다." "법무가 승인한 건 Mistral이지, 당신이 쓰고 있는 게 아닙니다." "우리 자체 GitHub Models 계약을 쓸 수 있나요? 이미 구매한 시트에 번들되어 있어요."

오늘까지 답은 항상: 아직은 안 됩니다.

오늘은 됩니다. Archyl의 모든 AI 기능을 이제 당신의 AI 제공자, 당신의 API 키, 당신의 계약을 통해 라우팅할 수 있습니다. OpenAI, Anthropic (Claude), Google (Gemini), AWS Bedrock, 또는 모든 OpenAI 호환 엔드포인트 중에서 선택하세요 — 그리고 Archyl 쿼터 한도는 더 이상 적용되지 않습니다. 제공자에게 직접 지불하기 때문입니다.

무엇이 바뀌었는지, 왜 들리는 것보다 더 큰 문제인지, 어떻게 활성화하는지 설명하겠습니다.

이것이 "설정 필드를 추가했다"는 것보다 더 중요한 이유

Archyl은 AI를 중심으로 만들어졌습니다. 아키텍처 발견은 리포지토리를 읽고 C4 모델을 생성합니다. ADR 파싱은 마크다운을 구조화된 결정으로 변환합니다. 채팅 어시스턴트는 프로젝트 전반에 걸쳐 질문에 답합니다. 관리형 에이전트는 코드베이스에 대해 다단계 작업을 실행합니다. 인사이트는 아키텍처 문제가 사고가 되기 전에 표면화시킵니다.

2년 동안 이 모든 것은 제가 선택한 모델, 제가 소유한 OpenAI 키로 실행되었습니다. 대부분의 고객은 그것에 완벽하게 만족했습니다 — 관리할 공급업체 관계가 하나 줄어드니까요. 하지만 "대부분"은 "모두"가 아니고, 제가 잃고 있던 고객들은 가장 원했던 고객들이었습니다: 진지한 아키텍처 실천과 진짜 예산을 가진 대규모 엔지니어링 조직들이었죠.

그들을 막은 것은 가격이 아니었습니다. 다른 세 가지였습니다:

  1. 데이터 거주성. 그들의 보안 팀은 특정 지역의 특정 공급업체를 승인했습니다. 제 제공자는 명단에 없었고, 공급업체를 추가하는 데 몇 달이 걸립니다.
  2. 기존 계약. 그들은 이미 Anthropic, Azure OpenAI, AWS Bedrock 또는 Mistral과 엔터프라이즈 가격을 협상했습니다. 다른 제공자의 토큰에 마크업을 붙이려고 저에게 비용을 지불하는 것은 구매 부서에게 의미가 없었습니다.
  3. 컴플라이언스. GDPR, SOC 2, HIPAA, 금융 규제 기관. 감사 추적은 제 테넌트가 아니라 그들의 테넌트에 떨어져야 합니다.

해결책은 그들에게 세 가지를 동시에 제공해야 했습니다: 그들의 키, 그들의 모델, 그리고 AI 사용에 대한 이중 청구 없음. 그것이 정확히 BYO Provider가 하는 일입니다.

연결할 수 있는 것

오늘 5개 제공자가 출시됩니다. 4개는 일급 네이티브 통합이고, 1개는 호환 엔드포인트의 긴 테일을 하나의 설정으로 커버하는 일반 어댑터입니다.

OpenAI — 자체 키로 api.openai.com에 직접. 기본 모델은 gpt-5.4-mini이지만 기능별로 재정의할 수 있습니다.

Anthropic (Claude) — Messages API, 스트리밍 포함. 기본값 claude-sonnet-4-6. 대부분의 엔터프라이즈 팀이 도달하는 곳입니다.

Google (Gemini) — 네이티브 JSON 모드의 Generative Language API. 기본값 gemini-2.0-flash.

AWS Bedrock — 모든 Bedrock 호스팅 모델에 걸쳐 통일된 Converse API. 따라서 하나의 통합으로 Bedrock의 Anthropic Claude, Mistral, Llama, Titan, Cohere를 커버합니다 — 계정에서 활성화된 어떤 것이든. AWS 자격 증명을 <access_key_id>:<secret_access_key> 형식으로 제공합니다 (선택적인 STS 세션 토큰 포함), 리전과 함께.

OpenAI 호환 (그 외 모든 것) — 어댑터 하나, 기본 URL 필드 하나. 이 단일 통합으로 Azure OpenAI, GitHub Models, OpenRouter, Mistral La Plateforme, Groq, Together AI, Fireworks, DeepInfra, vLLM, llama.cpp, 그리고 OpenAI Chat Completions 형식을 사용하는 거의 모든 엔드포인트를 커버합니다. 기본 URL을 가리키고, 키를 붙여넣고, 완료입니다.

마지막 부분은 설계하기 가장 재미있었습니다. 6개월마다 새로운 "동일한 품질로 OpenAI보다 30% 저렴함" 제공자가 등장합니다 — 그리고 그들은 모두 OpenAI 형식으로 수렴합니다. 다른 모든 사람들이 그것에 대해 통합했기 때문이죠. 이 긴 테일을 구성 가능한 기본 URL을 가진 단일 제공자로 취급한다는 것은 이 새로운 엔드포인트들을 무료로 얻고, 제가 추가하기를 기다릴 필요가 없다는 의미입니다.

제공자뿐만 아니라 기능별 모델

모든 Archyl 기능을 gpt-5.4-mini를 통해 라우팅하는 것은 플랫폼을 위해 제가 한 선택입니다. 모든 고객에게 옳은 선택은 아닙니다. 발견은 토큰이 많이 들고 강한 추론 모델의 이점을 얻습니다. 채팅은 스트리밍 느낌이 필요합니다. 관리형 에이전트는 본질적으로 Claude 형태입니다. 문서 제목 생성은 가장 저렴한 것에서 실행될 수 있습니다.

따라서 BYO Provider를 켤 때 하나의 모델만 선택하는 것이 아닙니다 — 기본값을 선택한 다음 기능별로 재정의합니다:

  • 채팅
  • 발견 (그리고 세 개의 하위 단계: 구조, 정제, 파일 분석)
  • ADR 파싱
  • 문서 제목 생성
  • 인사이트
  • 관리형 에이전트

어떤 필드든 비워두면 제공자의 합리적인 기본값으로 돌아갑니다. 정확한 모델 식별자로 채우면 — claude-opus-4-5, gpt-4o, mistral-large-latest, anthropic.claude-sonnet-4-20250514-v1:0, 무엇이든 — Archyl이 그대로 전달합니다.

이것은 들리는 것보다 더 중요합니다. 한 고객은 채팅용으로 Claude Sonnet(낮은 지연 시간), 발견용으로 Claude Opus(추론 품질)를 원합니다. 다른 고객은 관리형 에이전트를 제외한 모든 것에 Bedrock Llama를 원하며, 관리형 에이전트는 직접 Anthropic을 원합니다. 둘 다 이상적인 설정에서 몇 개의 드롭다운만 떨어져 있습니다.

쿼터는 어떻게 되나요

이것이 구매 부서가 실제로 신경 쓰는 부분입니다. Archyl의 무료 및 유료 등급은 각각 AI 발견 작업, 채팅 쿼리, 관리형 에이전트 실행에 대한 월별 쿼터를 포함합니다. 그 쿼터는 제 OpenAI 청구서를 충당하기 위해 존재합니다.

BYO Provider가 활성화되면 모든 쿼터 적용이 건너뛰어집니다. 제공자가 사용량에 대해 직접 청구합니다. Archyl의 풀링된 AI 지출을 소비하지 않기 때문에 Archyl은 월별 상한에 대해 더 이상 카운트하지 않습니다.

실용적인 측면에서: BYO Provider가 켜진 Business 등급 조직은 무제한 발견, 무제한 채팅, 무제한 에이전트 실행을 얻습니다 — Anthropic이나 AWS에 지출할 의향이 있는 금액에 의해서만 제한됩니다. Archyl 시트 가격은 플랫폼을 커버하고, 토큰은 당신이 커버합니다.

플랫폼 관리 모델에 머물고 싶은 조직에게는 아무것도 변하지 않습니다. 토글은 옵트인이고, 기본적으로 꺼져 있으며, 한 번의 클릭으로 되돌릴 수 있습니다.

활성화하는 방법

설정 → AI 탭. 다섯 단계, 아마도 2분:

  1. 제공자를 선택하세요.
  2. API 키를 붙여넣으세요. (Bedrock의 경우: <access_key_id>:<secret_access_key> 더하기 AWS 리전.)
  3. 선택적으로 기능별 모델을 재정의하세요. 비워두면 제공자 기본값을 사용합니다.
  4. 연결 테스트를 누르세요 — Archyl이 작은 completion으로 제공자에게 핑을 보내 커밋하기 전에 자격 증명이 작동하는지 확인합니다.
  5. 활성화 및 저장을 토글하세요.

그게 다입니다. 조직의 누군가가 보낸 다음 AI 요청 — 발견, 채팅, 에이전트 실행, ADR 가져오기 — 은 당신의 제공자, 당신의 모델, 당신의 키를 통해 흐릅니다.

API 키는 플랫폼의 암호화 키로 AES-256-GCM을 사용하여 저장 시 암호화되며, API 응답에서 절대 반환되지 않고(UI는 ••••••••와 "키 저장됨" 표시기를 보여줍니다), 요청이 이루어져야 할 때만 인프로세스에서 복호화됩니다. 구성을 제거하면 키가 지워집니다.

조직 관리자만 이를 구성할 수 있습니다. 멤버들은 AI 기능이 투명하게 계속 작동하는 것을 볼 수 있습니다 — 라우팅은 그들에게 보이지 않습니다.

다음에 올 것

초기 고객 대화를 기반으로 이미 로드맵에 있는 몇 가지:

  • Bedrock Provisioned Throughput 예약 용량 계약이 있는 조직용.
  • 프로젝트별 제공자 재정의, 민감한 프로젝트에서 일하는 팀이 조직의 나머지가 기본값을 사용하는 동안 그 프로젝트만 특정 엔드포인트를 통해 라우팅할 수 있도록.
  • BYO 감사 로그, 어떤 기능이 어떤 모델로 어떤 제공자를 호출했는지 정확히 보여주는 것, 이를 입증해야 하는 컴플라이언스 팀용.

이 중 어느 것이라도 당신의 차단을 풀 것이라면 — 또는 추가해야 할 여섯 번째 제공자가 있다면 — 듣고 싶습니다. 이 게시물에 답하거나, 인앱 채팅에서 저에게 연락하거나, 20분 예약하세요.

"우리는 이미 {당신의 AI 제공자}를 사용하고 있어요"가 Archyl 채택을 막는 차단 요소가 되지 않기를 기다려 왔다면, 이것이 그 릴리스입니다. 조직을 시작하고, 키를 넣고, 이미 가지고 있는 계약을 통해 모든 AI 기능을 라우팅하세요.

당신의 아키텍처, 당신의 제공자, 당신의 키. 제품은 동일하게 유지됩니다 — 청구서만 이동합니다.