고객 사례

ZenteiQ, llm-d 기반 GKE Inference Gateway로 배치 추론을 4배 확장

Wed, 28 Oct 2026 19:00:00 +0000

*이 콘텐츠는 AI 번역 도구를 사용하여 번역되었습니다. 정확성을 기하기 위해 노력하고 있으나, 자동 번역에는 오류나 누락이 포함될 수 있습니다. 정확한 정보는 영문 원본을 참고해 주시기 바랍니다.

오늘은 Indian Institute of Science(IISc)에서 분사한 인공지능 스타트업인 ZenteiQ의 이야기를 들어보겠습니다. ZenteiQ는 IndiaAI Mission의 선정 기업으로 주권 과학용 파운데이션 모델을 처음부터 빌드하는 것을 목표로 하고 있습니다. 물리 법칙, 지배 방정식, 수치 솔버를 이해하는 모델을 사전 학습시키기 위해 ZenteiQ는 여러 모델 제품군에서 실행되고 검증된 데이터 세트를 학습 실행에 제공하는 대규모 합성 데이터 배치 생성 파이프라인을 설계하고 빌드했습니다.Google Kubernetes Engine(GKE)과 GKE Inference Gateway를 통해 ZenteiQ는 파이프라인 내에 추론 라우팅 레이어를 제공하여 집계 추론 처리량을 4.07배 확장하고 가속기 1,000개당 일일 토큰 생성량을 14억 7천만 개에서 59억 7천만 개로 늘릴 수 있었습니다. - Fisayo Feyisetan, Google Cloud 제품 관리자

주로 웹 텍스트와 코드를 학습하는 범용 언어 모델과 달리, 과학용 파운데이션 모델은 열역학, 전산 유체 역학, 전자기학과 같은 분야 전반에서 복잡한 물리 시스템, 수학적 지배 방정식, 수치 솔버를 이해해야 합니다. ZenteiQ는 시뮬레이션 결과를 해석하고, 방정식 공식을 평가하고, 물리 법칙을 따르는 단계별 수학적 유도 과정을 수행하는 주권 과학용 파운데이션 모델을 처음부터 빌드하고 있습니다.

대규모 지배 방정식 데이터 세트로 모델을 사전 학습시키려면 수천억 개의 추론 토큰이 필요합니다. 선별된 과학 문헌 및 시뮬레이션 데이터 세트와 더불어, ZenteiQ는 독립적으로 설계하고 구현한 합성 데이터 배치 생성 파이프라인을 사용하여 후보 유도 과정과 솔버 검증 문제를 생성, 평가, 필터링한 후 MaxText 사전 학습 작업에 입력합니다.

ZenteiQ는 고정된 컴퓨팅 할당량으로 운영되기 때문에 가속기가 학습 데이터를 생성하고 검증하는 데 소비하는 시간은 사전 학습에서 차감됩니다. 데이터 생성이 늦어지면 사전 학습용으로 할당된 멀티 호스트 가속기 클러스터가 데이터 세트를 기다리느라 아무런 작업도 하지 못하는 유휴 상태가 됩니다.

데이터 생성으로 인해 사전 학습이 지연되는 문제

데이터 생성 속도를 극대화하기 위해, 당사의 파이프라인은 워커 포드에서 진행되는 프롬프트 준비 작업과 다중 노드 가속기 풀 전반의 vLLM 모델 서빙을 분리하여 운영합니다. 각 배치는 4가지 단계를 거칩니다. 먼저 과학적 시드 개념을 프롬프트 배치로 확장하고, 생성기 모델을 통해 후보 추론 트레이스를 생성합니다. 그다음 평가자 모델을 사용하여 응답에 점수를 매기고, 별도의 모델 제품군을 통해 가드레일 검사를 실행한 뒤 검증된 데이터 세트를 패키징하여 사전 학습에 투입합니다.

처음에는 추론 엔드포인트 전반에 표준 ClusterIP 라운드 로빈 부하 분산을 사용하여 Kubernetes에서 이러한 모델 풀을 실행했습니다. 90억 및 350억 파라미터 모델 일정에 맞게 파이프라인을 확장하면서 두 가지 라우팅 병목 현상이 발생해 데이터 세트 생성 속도가 느려지기 시작했습니다.

불균일한 엔진 큐: 업스트림 워커 포드는 시드 개념을 복잡성과 응답 길이가 매우 다양한 프롬프트로 확장합니다. 표준 라운드 로빈 부하 분산 방식은 vLLM 엔진 큐의 상태를 파악할 수 없었기 때문에, 인접 노드에 여유 용량이 있는데도 이미 긴 추론 트레이스를 처리하느라 바쁜 서빙 포드에 계속해서 새로운 요청을 보내는 문제가 있었습니다.
중복 프리픽스 계산: 생성 배치 내의 프롬프트는 지시 컨텍스트와 작업 사양의 약 70%~80%를 공유합니다. 라운드 로빈 라우팅은 동일한 요청 사항을 여러 서빙 인스턴스에 분산시켰고, 이로 인해 각 포드는 가속기 메모리의 웜 캐시를 재사용하는 대신 동일한 공유 프롬프트 프리픽스를 처음부터 다시 계산해야 했습니다.

불균형한 큐와 중복된 프리필 작업이 겹치면서, 생성 처리량이 단일 실행 내에서 최대 절반까지 변동되어 데이터 세트 생성이 지연되고 예정된 사전 학습 실행의 시작이 지연되었습니다. 연구원들이 커스텀 추론 스케줄러를 직접 빌드하고 관리하느라 모델 개발에 소홀해지는 일 없이 실시간 vLLM 큐 깊이와 프롬프트 캐시를 파악할 수 있는 라우팅 기능이 필요했습니다.

llm-d 기반의 GKE Inference Gateway를 활용한 빌드 사례

이미 GKE에서 데이터 준비 및 MaxText 사전 학습 작업을 실행하고 있으므로 팀에서 동일한 Kubernetes 플랫폼에서 데이터 생성과 모델 학습을 관리할 수 있습니다. 기본적인 과학적 방법론이나 파이프라인 설계를 변경하지 않고도 라우팅 병목 현상을 해결할 수 있다는 Google Cloud의 권장사항에 따라, vLLM 가속기 풀 앞에 오픈소스 llm-d 분산 추론 프레임워크를 기반으로 하는 GKE Inference Gateway를 배포했습니다.

파이프라인에서 작업자 포드는 Cloud Storage에서 과학 시드 문서와 도메인 분류를 가져와 여러 단계의 프롬프트 배치로 확장합니다. 이러한 배치는 모든 모델 제품군과 서빙 노드 전반의 트래픽을 관리하는 단일 GKE Inference Gateway 배포를 통해 처리됩니다.

모델 등급별로 라우팅을 분리하여 관리하는 대신, 동일한 게이트웨이를 통해 각 모델 풀 전반의 생성 요청, 평가 쿼리, 가드레일 검사를 통합적으로 라우팅합니다. 후보 대답이 평가 및 가드레일 검사를 통과하면 작업자 포드가 확인된 데이터 세트를 중복 삭제하고 패키징하여 GKE의 다운스트림 MaxText 사전 학습 작업에서 직접 사용할 수 있도록 합니다.

GKE Inference Gateway는 검증된 데이터 세트가 MaxText 사전 학습에 입력되기 전에 vLLM을 실행하는 멀티 노드 가속기 풀에서 배치 생성, 평가, 가드레일 요청을 라우팅합니다.

라운드 로빈에서 부하 및 캐시 인식 라우팅으로 전환

GKE Inference Gateway와 llm-d를 사용하면 정적 라운드 로빈 순환 대신 vLLM 인스턴스의 실시간 서빙 신호를 사용하여 라우팅 결정을 내립니다. GKE Inference Gateway는 vLLM 엔드포인트 전반에서 실시간 큐 깊이와 키-값(KV) 캐시 사용률을 지속적으로 모니터링합니다. 서빙 노드가 긴 수식 유도 과정을 디코딩하느라 바쁠 때 게이트웨이는 수신 요청을 여유 용량이 있는 노드로 라우팅하므로, 인접 노드가 유휴 상태인데도 바쁜 작업자 노드에 과중한 프롬프트가 더 이상 쌓이지 않습니다.

동시에 게이트웨이는 일치하는 과학적 요청 사항이 포함된 요청을 해당 프리픽스의 KV 캐시가 이미 가속기 메모리에 준비되어 있는 서빙 노드로 라우팅합니다. 각 프롬프트의 70~80%는 공유된 지시 컨텍스트인 반면, 생성된 추론 경로는 요청마다 다르기 때문에 프리픽스 캐시 지역성과 실시간 큐 분산을 결합하면 포드가 단일 복제본에 과부하를 주지 않고 반복적인 프리필 작업을 건너뛸 수 있습니다.

처리량 향상 및 예측 가능한 학습 실행

llm-d 기반 GKE Inference Gateway를 도입하면서 데이터 생성 파이프라인의 속도와 예측 가능성이 혁신적으로 개선되었습니다. 프로덕션 클러스터 전반에서 지능형 라우팅을 통해 다음과 같은 성과를 거두었습니다.

Fleet 처리량 4배 향상: 가속기 1,000개당 합산 처리량이 초당 16,964개에서 69,114개 토큰으로 급증하여 일일 토큰 생성량이 14억 7천만 개에서 약 60억 개로 늘어났습니다.
개별 모델 풀에서 3.5~5.5배의 성능 향상: 실시간 큐 분산으로 각 실행 전반에서 서빙 노드의 부하를 균등하게 유지하여 긴 추론 유도로 인한 실행 중 속도 저하를 방지했습니다.
프리픽스 캐시 적중률 14% 포인트 향상 일치하는 과학적 요청 사항이 있는 프롬프트를 웜 캐시로 라우팅하여 각 요청이 개별 유도 과정으로 분기되기 전에 발생하는 중복 프리필 작업을 방지했습니다.

연구 및 인프라 팀에게 가장 중요한 성과는 일정의 예측 가능성을 확보한 것이었습니다. 일일 출력량이 4배로 늘어남에 따라 검증된 데이터 세트를 제때 준비할 수 있게 되었고, 그 결과 데이터 생성을 기다릴 필요 없이 멀티 호스트 사전 학습 실행을 예정된 일정대로 시작할 수 있었습니다.

ZenteiQ의 물리적 AI의 다음 단계

과학용 파운데이션 모델을 90억 개에서 350억 개 이상의 파라미터로 확장함에 따라, 사후 학습 강화 학습(RL)과 자동화된 수치 솔버 평가 루프에 동일한 GKE Inference Gateway 및 llm-d 라우팅 설정을 사용할 계획입니다. 이러한 멀티턴 출시의 각 턴은 이전 턴의 컨텍스트를 기반으로 하므로 실시간 큐 분산과 웜 프리픽스 캐시에 더 많이 의존합니다.

자체 워크로드에서 이러한 기능을 사용해 보려면 GKE Inference Gateway 문서를 살펴보고 오픈소스 llm-d 프로젝트를 확인해 보세요. Gemini 플랫폼팀이 GKE Inference Gateway를 통해 지연 시간을 35% 단축한 방법도 확인해 보세요.

Google Cloud에서 완전한 가상 차량 빌드하기: AAOS부터 가장 작은 MCU까지

Mon, 26 Oct 2026 10:00:00 +0000

*이 콘텐츠는 AI 번역 도구를 사용하여 번역되었습니다. 정확성을 기하기 위해 노력하고 있으나, 자동 번역에는 오류나 누락이 포함될 수 있습니다. 정확한 정보는 영문 원본을 참고해 주시기 바랍니다.

전통적인 자동차 애호가들이 소프트웨어 정의 차량을 직접 다루는 모습을 상상하는 것은 아주 흥미로운 사고 실험입니다. 소켓 렌치와 에어 컴프레서를 준비한 이들은 오일이나 벨트가 아닌 1과 0으로 작동하는 핵심 기능에 당황할지도 모릅니다. 하지만 최근 자동차 업계 전반에서 클라우드 네이티브 개발, 지속적 통합/지속적 배포, 신속한 디지털 반복 개발 및 다양한 AI를 사용하여 빌드된 시스템을 탑재한 차량이 점점 늘어나고 있습니다.

그러나 많은 자동차 제조업체와 1차 공급업체의 클라우드 기반 개발 프로세스에는 여전히 큰 격차가 존재합니다. 동시에 이러한 기업들은 주로 소프트웨어를 사용하여 차량용 디지털 엔터테인먼트 및 정보 화면이나 기타 온보드 고성능 컴퓨터를 개발하고 있습니다.

반면 최신 자동차를 자동차답게 만드는 수십 개의 마이크로칩과 제어 모듈(예: 게이트웨이, 차체 컨트롤러, 구역 제어 장치, 센서 및 액추에이터 노드 등)은 여전히 제조 과정에서 물리적 칩에 직접 연결되는 경우가 많아, 차량이 공장에서 출고된 후에는 업데이트, 재프로그래밍 또는 확장하기가 매우 어렵습니다. 팀은 벤치, 샘플과 장비를 기다려야 하며, 결함을 수정하는 데 가장 많은 비용이 드는 통합 작업은 대부분 개발 프로세스의 마지막 단계로 미뤄지곤 합니다.

이러한 본질적인 비효율성은 중대한 병목 현상이 되었습니다. 무엇보다도 대부분의 전자 장치가 물리적 하드웨어에 연결되어 있을 때만 작동하며 개발자가 실제 하드웨어에 크게 의존한다면, 제조업체는 차량이 소프트웨어 정의 차량이라고 주장할 수 없습니다.

당사의 목표는 소프트웨어 정의 차량 개발을 위한 Google의 에이전트형 혁신 플랫폼인 Horizon을 통해, RemotiveLabs 같은 파트너와 협력하여 제조업체가 이러한 비효율성을 해소하게 하는 것입니다.

조종석은 이미 클라우드에서 실행되고 있습니다.

Android팀은 차량 조종석 내 수많은 디지털 시스템의 원활한 개발을 지원하기 위해 지난 몇 년 간 많은 시간과 노력을 기울였습니다. Android Automotive OS(AAOS)는 Google의 공식 Android 가상 테스트 환경인 Cuttlefish 내에서 실행되며, Cuttlefish 자체는 Arm 기반 Google Cloud 인스턴스에서 원활하게 실행됩니다. 이 접근 방식을 사용하면 개발자는 차량에 탑재된 것과 동일한 Arm 아키텍처에서 인포테인먼트 스택의 가상 버전을 빌드하고, 부팅하고, 테스트할 수 있습니다.

그리고 최근 Android 17과 AAOS SDV가 출시되면서, AAOS SDV가 사용되는 모든 영역에서 이 기능을 사용할 수 있게 되었습니다. 예를 들어 Cuttlefish를 사용하여 이를 배포하면, 모델이 대표적인 아키텍처 기반의 대표적인 소프트웨어를 클라우드 환경에서 온디맨드 방식으로 제공하는 모델임을 입증할 수 있습니다. 아직 해결해야 할 과제는 (특히 다른 운영 체제가 관여하는 경우) 모델을 차량의 나머지 부분으로 확장하는 방법입니다.

가상 차량을 감싸는 하네스

바로 이 지점에서 RemotiveTopology가 중요한 역할을 합니다. 가상 차량을 감싸는 하네스 역할을 하는 이 기능은 Cuttlefish 내의 AAOS를 완전한 시뮬레이션 전기·전자(E/E) 아키텍처(차량의 나머지 온보드 컴퓨터, 데이터 네트워크, 그리고 시스템을 단순한 독립형 앱 모음이 아닌 실제 차량처럼 작동하게 하는 실시간 신호)에 연결하는 레이어입니다.

RemotiveTopology는 제조업체의 기존 네트워크 설계 파일을 자동으로 활용하여, 해당 차량 네트워크의 실제로 작동하는 가상 버전을 빌드합니다. 이것이 바로 코드형 차량입니다. E/E 아키텍처는 실행 가능한 사양으로 표현되며, 코드형 인프라처럼 버전이 지정되고 프로비저닝됩니다. 이 방식을 이용하면 전체 차량을 필요에 따라 가동할 수 있습니다. 조종석 소프트웨어는 실제 차량에서처럼 차량의 나머지 부분과 통신합니다. 따라서 개발자는 완전하고 지속적인 신호 및 도메인 간 가시성을 확보하여, 시스템 상태를 실시간으로 파악할 수 있습니다. 또한 표준 Linux 도구를 기반으로 빌드되었기 때문에 동일한 토폴로지가 노트북과 Google Cloud의 연속 통합 파이프라인 모두에서 실행됩니다.

나중이 아닌 초기에 수행하는 도메인 간 통합

이 접근 방식을 사용하면 차량의 하드웨어에 연결하기 전에 모든 온보드 시스템을 소프트웨어로 개발하고 통합할 수 있습니다. 차량 개발 과정에서 가장 어렵고 (가장 마지막 단계인) 통합 작업은 모든 시스템을 하나로 모으는 일이기에, 이 방식은 매우 유용합니다. 예를 들어 첨단 운전자 지원 시스템(ADAS)은 물체 목록, 궤적 및 모드 요청을 생성하고, 조종석은 이를 렌더링하고 반응해야 하며, 인포테인먼트 시스템과 계기판은 주행 상태를 반영하고, 차체 및 섀시 노드는 루프에 포함되어야 합니다.

전체 토폴로지가 Google Cloud에서 가동되기 때문에, 인포테인먼트 시스템과 ADAS가 가상 차량 내에서 동시에 작동하며 시뮬레이션된 네트워크를 통해 실제 신호를 교환할 수 있습니다. 따라서 벤치와 샘플이 정렬되기 훨씬 전인 지속적 통합의 첫날부터, 클러스터에 표시되는 ADAS 이벤트나 도메인 전반에 파급되는 운전자 모드 변경 같은 핸드오프를 테스트해 볼 수 있습니다. 이 방식을 이용하면 개발자는 프로세스가 끝나기 훨씬 전에 다중 도메인 통합을 발견하여, 처음부터 지속적으로 테스트를 수행할 수 있습니다.

완전 자율 차량의 최첨단

이 작업의 핵심은 차량 내에서 가장 작고 흔한 노드인 마이크로칩과 제어 모듈에까지 확장 가능한 소프트웨어 개발을 도입한다는 공동 목표의 실현입니다. 지금까지 이러한 부품은 하드웨어에 연결되어 왔기에, 완전한 소프트웨어 정의 차량 구현의 가장 큰 걸림돌이 되고 있기 때문입니다.

궁극적인 목표는 클라우드에서 실행되는 동일한 소프트웨어가 차량의 실제 제어 모듈에서 실행되며, 별도의 도구 변경이나 재검증 없이도 두 환경을 전환할 수 있게 하는 것입니다. 클라우드와 자동차가 동일한 명령어 집합을 공유하기 때문에, Arm 기반 Google Cloud 인프라에서는 이러한 호환성이 자연스럽게 이루어집니다. Google의 Axion을 이용하면 이 작업을 간단하게 수행할 수 있습니다. 베어메탈 Arm 인스턴스인 C4A 메탈은 자동차 시스템 개발과 Android 소프트웨어 개발을 위해 명시적으로 제공되며, 불필요한 소프트웨어 레이어 없이 하드웨어에 직접 액세스할 수 있게 하며, 차량 시스템에 필요한 일관된 성능을 제공합니다.

종합해 보면 이러한 통합 시스템 덕분에 팀은 사상 처음으로 클라우드 환경에서 전체 차량 시스템을 개발하고 통합 테스트를 수행한 후, 다시 작성하지 않고도 이를 실제 차량에 적용할 수 있게 되었습니다.

지금 시작해야 하는 이유와 시작하는 방법

이러한 이점은 추상적인 이점이 아닙니다. 차량을 코드처럼 취급하고 통합 과정을 클라우드로 이전하면, 프로그램 개발 과정에서 가장 느리고 비용이 많이 드는 단계를 단축할 수 있습니다. RemotiveLabs와 초기에 협력한 고객은 통합 주기가 10배 이상 단축되었습니다. 이제 개발 루프는 하드웨어 루프보다 더 빠르게 변화하고 있습니다. AI 지원 및 에이전트형 워크플로는 차량 소프트웨어를 신속하게 생성, 테스트 및 개선할 수 있지만, 필요한 규모를 충족시킬 수 있는 것은 가상 시스템뿐입니다. 가상화할 수 없는 모든 요소는 전체 개발 프로세스를 지연시킬 수 있습니다.

RemotiveTopology는 이 아키텍처를 코드형 차량으로 제공하며 개발자와 테스터 및 자율 AI 에이전트 모두가 액세스할 수 있습니다. 무엇보다 좋은 점은 새로운 서드 파티 도구를 도입하지 않고도 시작할 수 있다는 것입니다. 그 대신 RemotiveLabs는 표준 Linux 도구와 이미 마련된 플랫폼 정의를 통해 누구나 몇 분 만에 실행할 수 있는 오픈소스 간소화 차량을 GitHub에 게시합니다. 제조업체나 1차 공급업체가 확장되면 기존 전체 도구 모음이 플러그인되며 RemotiveTopology를 Arm 기반 Google Cloud 환경에 쉽게 적용할 수 있습니다.

가상 개발이 조종석에만 적용되는 소프트웨어 정의 차량을 개발하는 분은, 이제 오픈소스 예제를 바탕으로 시작하여 독자적인 플랫폼 정의를 도입하고 클라우드에서 전체 차량을 구동해야 합니다. RemotiveTopology는 Horizon에서 지원되므로 다른 Horizon 모듈과 함께 쉽게 사용할 수 있습니다.

자율성 설계: 생명공학 분야의 고성능 컴퓨팅, 거버넌스형 에이전트를 위한 설계 패턴

Sun, 25 Oct 2026 19:00:00 +0000

오늘날 프로덕션 시스템에서 대부분의 AI 에이전트는 경량 디스패처로 작동합니다. AI 에이전트는 프롬프트를 파싱하여 API 호출을 수행하고, 레코드를 검색 후, 제어권을 다시 넘겨줍니다. 또한 실행 속도가 빠르고, 스테이트리스(Stateless)이며, 비용이 저렴합니다. 하지만 생명공학 분야에서는 이런 방식으로 작동하지 않습니다.

단백질 표적 접힘 구조를 예측하고, 50,000개의 화합물 리간드 라이브러리를 스크리닝하거나, 구조-활성 관계(SAR)를 평가하는 것은 빠른 API 조회로 해결할 수 있는 일이 아닙니다. 이러한 워크로드는 특화 실리콘 칩에서 몇 분 또는 몇 시간 동안 실행되는 지속적이고 스테이트풀(Stateful)한 GPU 집약적 시뮬레이션입니다. 범용 대규모 언어 모델(LLM) 엔드포인트에 복잡한 신약 개발 워크플로를 조정하도록 요청하면 표준 패러다임이 깨집니다. 타임아웃이 발생하고, 컨텍스트 윈도우가 원자 좌표로 넘쳐나며, 독점적인 화학 지식 재산(IP)이 외부 네트워크에 노출될 위험이 있습니다.

엔터프라이즈급 연구 개발(R&D) 에이전트를 빌드하려면 모놀리식 어시스턴트 모델을 넘어서야 합니다. 이 블로그 게시물에서는 인지 조정(두뇌)과 연산 실행(근육)을 분리하고, 두 가지를 모두 엔터프라이즈 거버넌스 플레인 내에 통합하여 생명공학 분야의 신약 개발 사용 사례에 활용할 수 있는 확장 가능한 에이전트를 빌드하는 3계층 아키텍처 활용법을 다룹니다.

3계층 패턴

아래의 참조 아키텍처는 생명공학, 특히 신약 개발 분야에서 고성능 컴퓨팅 자율 에이전트를 설계, 최적화, 거버넌스를 적용하는 방법을 보여줍니다.

그림 1 — 3계층 패턴: 인지 조정자(두뇌), 확장 가능한 GPU 실행 계층(근육), 엔터프라이즈 거버넌스 플레인

실행 계층: 근육 확장 - 고성능 컴퓨팅 실행

실행 계층은 고부하 과학 계산을 담당합니다. 첫 번째 아키텍처 결정은 워크로드를 실행할 위치를 정하는 것입니다.

전략적 독점 파이프라인에는 보안 경계 내에 전용 GPU 인프라가 필요합니다.
일상적이거나 표준화된 워크로드는 관리형 클라우드 엔드포인트에 안전하게 맡길 수 있습니다.

이 아키텍처에서 단백질 접힘은 ESMFold가, 생성형 설계는 GenMol이 주도합니다. 두 모델 모두 NVIDIA Inference Microservices(NIM)로 실행됩니다. NIM은 NVIDIA RTX PRO 6000 Blackwell GPU 기반 G4 VM을 사용하여 Google Kubernetes Engine(GKE)에 배포됩니다.

컨테이너화된 GPU 워크로드의 주요 걸림돌은 콜드 스타트 페널티, 즉 이미지 레지스트리에서 수 기가바이트의 모델 가중치를 가져와 GPU 메모리(VRAM)에 스테이징하는 데 걸리는 지연 시간입니다.

짧은 지연 시간의 응답성을 보장하기 위해 다음 권장사항을 참조 아키텍처에 반영했습니다.

웜 풀 유지: GKE 노드 풀을 최소 하나의 활성 노드에 고정합니다.
가중치 미리 로드: 포드 초기화 시 모델 가중치가 VRAM에 직접 로드되므로 컨테이너에서 즉시 추론이 가능합니다.
복원력 있는 스케줄링: GKE는 기본 VM 인프라를 해체하지 않고도 포드 수명 주기를 관리하고 실패한 인스턴스를 다시 시작합니다.

이 접근방식은 커스텀 수동 CUDA 커널 조정 대신 NVIDIA의 사전 컴파일하여 컨테이너화된 런타임을 활용하여 인프라 엔지니어링 오버헤드를 크게 줄이면서 결정론적 처리량을 보장합니다.

생명공학 분야에서 화학 구조는 수백만 달러의 가치를 지닌 독점적 지식 재산에 해당합니다. 도킹 요청은 회사 외부로 절대 유출되어서는 안 되는 SMILE 문자열 또는 3D 좌표 행렬을 전송합니다.

컨테이너화된 NIM은 빠른 프로토타입 제작과 엄격한 데이터 격리 사이의 마찰을 해결합니다. 초기 탐색 분석 단계에서 연구원은 NVIDIA 호스팅 엔드포인트를 쿼리할 수 있습니다. 독점적인 리드 후보 물질로 전환할 때 정확히 동일한 컨테이너가 비공개 VPC 내의 GKE에 배포됩니다. 에이전트의 조정 로직은 동일하게 유지되며, 대상 URI만 외부 프록시에서 내부 VPC 엔드포인트로 업데이트됩니다. 분자 구조 데이터는 기업 경계 외부로 유출되지 않습니다.

인지 계층: 멀티 에이전트 추론

컴퓨팅 실행이 격리된 상태에서 인지 계층은 에이전트형 워크플로 시퀀싱을 관리합니다. Gemini 플랫폼 내의 Agent Runtime을 기반으로 빌드된 이 참조 아키텍처는 계층적 멀티 에이전트 구조, 하나의 리드 조정자, 두 개의 전문 도메인 하위 에이전트(리드 최적화 및 안전성 스크리닝)를 배포하는 시스템을 보여줍니다. 멀티 에이전트 설계는 당면한 사용 사례에 맞게 수정할 수 있습니다.

이 설계를 기반으로 최종 사용자가 '표적 X에 대해 후보 4b를 분석하고 SAR 보고서 작성'과 같은 상위 수준의 작업을 제출하면, 시스템은 아래에서 설명하는 4가지 핵심 조정 패턴을 적용합니다.

인 프로세스 네이티브 에이전트 핸드오프: 리드 조정자는 네트워크 직렬화 방식의 에이전트 간 HTTP 프로토콜이 아닌 Agent Runtime의 네이티브 SDK를 사용하여 전문 하위 에이전트에 작업을 위임합니다. 이렇게 하면 중간 네트워크 홉이 제거되어 내부 핸드오프가 즉각적으로 처리됩니다. 가장 바깥쪽 경계만 Gemini 에이전트와 같은 사용자 대상 인터페이스로 외부와 통신합니다.
참조를 통한 대용량 페이로드 전달: LLM이 대규모 3D 공간 좌표 배열을 직접 처리해야 할 때 빠르게 성능이 저하됩니다. 이 아키텍처에서는 원시 구조 데이터(PDB 파일, 도킹 포즈, 궤적 로그)가 Cloud Storage에 직접 기록됩니다. 에이전트는 서명된 경량 객체 URI와 상위 수준의 구조적 요약을 전달하여 컨텍스트 윈도우를 간결하게 유지하고 추론 비용을 절감합니다.
생화학적 추론과 워크플로 로직 분리: 범용 LLM은 작업 계획 및 합성에 탁월하지만 생화학적 세부정보에서 할루시네이션 현상이 발생하는 경향이 있습니다. 이러한 동작을 제어하기 위해 이 아키텍처는 관심사의 분리를 엄격하게 유지합니다. 즉, Gemini가 워크플로와 작업 분해를 처리합니다. 도메인 화학 및 약리학적 추론은 전용 GPU 노드에서 호스팅되는 특화된 Nemotron 모델에서 처리됩니다.
엄격한 기준 대신 맥락 중심으로 평가: 기존의 계산 스크리닝 방식은 임의의 수치 기준을 적용합니다(예: 결합 친화도가 -7.5kcal/mol 미만인 경우 폐기). 그러나 치료적 맥락 방식은 위험 허용 범위를 근본적으로 변경합니다. 건강한 일반인이 매일 복용하는 예방적 심혈관 치료제에는 매우 엄격한 안전성 마진이 필요한 반면, 난치성 암을 표적으로 하는 새로운 항암제 후보 물질은 효능이 입증되면 더 높은 독성을 수용할 수도 있습니다.

질환 맥락 정보를 전문 추론 모델에 직접 전달하면 약물 후보를 정적 기준이 아닌 동적인 표적에 특화된 프로필에 따라 평가하게 되므로, 유효한 리드 물질이 조기에 배제하는 것을 방지할 수 있습니다.

고성능 컴퓨팅 파이프라인의 성능 권장사항

대규모 GPU 컴퓨팅과 연동하는 에이전트형 시스템을 최적화하려면 일반적인 엔지니어링 통념에서 벗어날 필요가 있습니다.

일반적인 가정	실제 아키텍처	권장사항
'더 빠른 드라이버 모델로 교체하여 지연 시간을 줄입니다.'	기본 조정자의 토큰 생성은 다단계 R&D 파이프라인에서 병목 현상이 발생하는 경우가 거의 없습니다.	토큰 속도가 아닌 I/O 최적화: 조정자 추론 깊이를 타협하기보다는 페이로드 크기와 중간 네트워크 홉을 줄이는 데 집중합니다.
'작업자 간에 도구 호출을 병렬화합니다.'	외부 과학 서비스와 컨테이너화된 모델은 전용 하드웨어에서 내부적으로 요청을 순차 처리하는 경우가 많습니다.	실행 토폴로지 준수: 클라이언트 측 동시 실행을 백엔드 큐 메커니즘과 일치시켜 파이프라인 잠김 및 연결 시간 초과를 방지합니다.
'도구 간에 전체 시뮬레이션 상태를 전달합니다.'	대규모 JSON 본문은 스키마 검증 실패, 프롬프트 잘림, 토큰 비대화를 유발합니다.	참조로 대용량 페이로드 전달: 원시 좌표를 객체 스토리지에 저장하고 에이전트 경계 간에 경량 URI를 전달합니다.
'파이프라인이 완료된 경우에만 출력을 반환합니다.'	실행 시간이 몇 분 이상 걸리는 경우 과학자는 작업이 진행 중인지 아니면 중단되었는지 파악하기 어렵습니다.	중간 단계 완료 스트리밍: 각 마일스톤이 완료될 때마다 진행 상황 업데이트를 전송하여(예: 폴딩 완료, 도킹 실행 중) 실시간 정보를 파악합니다.
'세분화된 여러 마이크로 도구를 연결합니다.'	도구 체인이 깊어지면 할루시네이션 인수와 스키마 불일치가 발생할 가능성이 높아집니다.	컴퓨팅 파이프라인 축소: 명확한 파라미터를 사용하고 통합 객체를 반환하는 깔끔한 단일 도구 인터페이스로 엔드 투 엔드 시뮬레이션 파이프라인을 래핑합니다.

엔터프라이즈 거버넌스와 비대칭적 자율성

엔터프라이즈 환경에 고성능 컴퓨팅 에이전트를 배포하려면 강력한 데이터 주권, 감사 추적, 프로세스 제어가 필요합니다. Gemini 플랫폼은 다음 구성요소를 통해 이러한 보호 수단을 기본 기능으로 제공합니다.

에이전트 아이덴티티: 모든 자율 에이전트는 암호화 방식으로 검증 가능한 ID로 작동합니다. 따라서 생명공학 분야의 사용 사례에서 후보 분자가 채택되거나 거부되면 해당 이벤트가 특정 에이전트 보안 주체에 영구적으로 로깅됩니다.
Agent Gateway: 이 구성요소는 경계 내의 모든 상호작용에 대한 단일 인그레스/이그레스 지점 역할을 합니다. 중앙 집중식 IAM과 리전별 저장 위치 규칙은 민감한 분자 데이터가 지정된 클라우드 리전 내에 유지되도록 보장합니다.
Agent Registry: 이 기능은 승인된 에이전트, 검증된 도구 스키마, 승인된 모델 컨텍스트 프로토콜(MCP) 서버의 선별된 카탈로그를 유지하여 프로덕션에서 악성 도구가 실행되는 것을 방지합니다.
Model Armor: 이 기능은 수신 프롬프트와 발신 페이로드를 실시간으로 검사하여 프롬프트 인젝션과 데이터 무단 반출을 방지합니다.

성과는 명확합니다. ID, RBAC, 감사, 저장 위치, 데이터 보호는 Gemini 플랫폼의 기본 속성입니다. 이를 통해 기업 고객은 프로젝트마다 규정 준수 스택을 일일이 구축할 필요 없이 과학 연구 개발에 집중할 수 있습니다.

중요한 연구 개발에서 완전한 자율성은 감당하기 어려운 책임을 초래하는 반면, 사소한 단계까지 승인을 요구하면 불편함이 발생할 수 있습니다. 이 문제를 해결하기 위해 다음과 같은 방식으로 비대칭 게이팅을 적용합니다.

되돌릴 수 있는 작업 자동화: 예를 들어 에이전트가 연구원의 개입 없이 자율적으로 화학 명명 동의어를 해결하고, PDB 구조 데이터를 가져오며, 예비 리핀스키 스크리닝을 실행할 수 있도록 허용합니다.

되돌릴 수 없는 작업 제어: 예를 들어 멀티 GPU 도킹 작업을 시작하거나, 리드 물질을 습식 실험실 합성 단계로 진행하거나, 치료 프로그램을 보관처리하는 작업에는 담당자의 명시적인 승인이 필요합니다.

패턴과 앞으로 나아갈 방향

고성능 컴퓨팅 자율 에이전트는 인지 계획, 수치 계산, 시스템 거버넌스 간의 경계가 다음과 같은 방식으로 명확할 때 성공합니다.

조정자는 분해와 합성에 집중하고, 집약적인 생물물리학적 시뮬레이션은 컨테이너화된 전문 마이크로서비스와 모델에 맡깁니다.
클라우드 스토리지를 통해 복잡한 화학 데이터를 참조로 전달하여 컨텍스트 비대화를 제거합니다.
암호화 에이전트 ID와 비대칭적 담당자 감독을 결합하여 엔터프라이즈 거버넌스에 워크플로의 기반을 둡니다.

생성형 및 구조 생물학 모델이 전체 세포 모델링과 복잡한 동적 시뮬레이션으로 확장됨에 따라, 이 분리된 아키텍처는 독점 IP를 안전하고 감사 가능하게 유지하는 동시에 연구 시스템을 효율적으로 확장할 수 있도록 보장합니다.

이와 같은 사용 사례를 구축하기 위한 요구사항이 있는 경우 Google 영업 담당자에게 문의해 주세요. Google Cloud에서 에이전트 개발 여정을 함께 논의하고 지원해 드리겠습니다.

Gemini 에이전트가 스타트업에 미치는 영향

Thu, 22 Oct 2026 17:00:00 +0000

소규모 팀, 짧은 생존 기간, 더 빠르게 출시해야 한다는 끊임없는 압박감은 Google for Startups에서 함께 일하는 창업자들 사이에서 매일 볼 수 있는 현실입니다. 회사를 처음부터 일궈 나갈 때, 운영 오버헤드나 인프라 구축 같은 부수적인 작업에 소비하는 한 시간은 곧 핵심 제품에 집중할 수 있는 시간을 한 시간 빼앗기는 것과 같습니다.

지난주 Gemini at Work 2026에서 Gemini 에이전트를 소개했습니다. Gemini 에이전트는 개인 어시스턴트이자 팀의 전담 구성원으로 기능하도록 설계된 단일 범용 에이전트입니다. 이번 주에는 여러 단계로 이루어진 긴 작업에서도 컨텍스트를 유지하도록 설계된 새로운 프런티어 모델인 Gemini 4 Argon을 정식 출시했습니다.

Gemini 에이전트의 작동 방식과 창업자를 위한 5가지 실용적인 팁, 스타트업이 Gemini 에이전트를 활용해 어떻게 기대 이상의 성과를 내고 있는지 자세히 알아보세요.

Gemini 에이전트란 무엇인가요?

글쓰기, 코딩, 데이터 분석을 위해 각각의 챗봇에 프롬프트를 입력할 필요 없이, Gemini 에이전트는 상위 수준의 목표만 설정하면 완성된 결과물을 도출해 주는 단일 에이전트입니다. Gemini 에이전트는 다음 세 가지 원칙을 바탕으로 정의됩니다.

통합성: 이제 단일 에이전트가 지식 작업, 데이터 분석, 광고 애셋 생성, 코드 작성 및 실행을 처리할 수 있습니다. 복잡한 작업의 경우 임시로 작업별 하위 에이전트를 동적으로 가동하고 병렬 또는 순차적으로 작업을 조정합니다.
어디서나 액세스 가능: 웹, 명령줄, 데스크톱, 모바일 등 매일 사용하는 환경에서 작동하며 Gmail, Docs, Sheets, Slides, Drive, Chat, Calendar 내에서 기본적으로 작동합니다.
지속성: 클라우드에서 실행되며 네 가지 차원(세션, 시맨틱, 절차, 에피소드)에 걸쳐 연속적인 메모리를 유지합니다. 신입 사원처럼 스스로 온보딩하여 팀, 도구, 비즈니스 컨텍스트를 학습하므로 프롬프트를 입력할 때마다 스타트업에 대해 다시 설명할 필요가 없으며, 노트북을 닫은 후에도 며칠이 걸리는 작업을 계속 진행할 수 있습니다.

한 번에 5가지 역할을 해내야 하는 창업자에게 Gemini는 사용자의 캘린더, 프로젝트, 문서를 이미 완벽하게 파악하고 있는 디지털 비서실장과 같은 역할을 수행합니다. 시장 트렌드를 조사하고, Sheets에서 재무 모델을 구축하고, 이 두 가지를 피치 자료로 만들어 달라고 요청해 보세요. 각 단계에서 프로젝트 내용이나 목표가 무엇인지 반복해서 설명할 필요가 없습니다. 또한 사용자가 요청하기 전에 미리 알아서 작업합니다. 투자자가 이메일로 최신 제품 변경사항을 발표 자료로 요청하면, Gemini가 이를 감지하고 처리를 제안합니다. 클릭 한 번이면 작업이 완료되어 바로 공유하거나 검토할 수 있습니다.

스타트업을 위한 5가지 핵심 사항

1. 동료 에이전트와 스킬을 통해 성과 확대

개인 어시스턴트 외에도 팀 전체와 협업하는 영구적인 동료 에이전트를 만들 수 있습니다. 각 에이전트에는 자체 Workspace 계정, 이메일 주소, Drive 스토리지, 디렉터리 정보가 제공됩니다. 출시 코디네이터, QA 담당자, 재무 분석가와 같은 특정 역할을 정의하면 팀원이 Chat 스페이스에 에이전트를 추가하거나 Google Docs 댓글에서 @멘션하여 작업을 위임할 수 있습니다.

또한 에이전트에 재사용 가능한 스킬을 부여하거나 Gemini가 프로세스를 학습하면서 스스로 스킬을 만들도록 할 수도 있습니다. 예를 들어 BigQuery 및 Knowledge Catalog와 연동된 운영 보고 스킬을 활용하면, 팀원 누구나 일상적인 언어로 질문하여 실시간 보고서를 생성하고 저장할 수 있습니다. 한 번 저장된 보고서는 필요할 때마다 언제든 다시 실행할 수 있으며, 이때 추가 토큰 비용은 전혀 발생하지 않습니다. 또한 Gemini는 법률 및 금융 서비스를 시작으로, 사전 빌드된 전문 분야 솔루션도 제공합니다.

스타트업에 주는 가치: 동료 에이전트는 팀의 업무 역량을 즉시 높여줄 수 있으며, 스킬 기능을 활용하면 매번 토큰을 소모하지 않고도 투자자 보고나 운영 보고와 같은 반복적인 프로세스를 표준화할 수 있습니다.

2. 개방형 및 서드 파티 모델 선택

Gemini는 에이전트이며, 이를 구동하는 모델은 사용자가 선택할 수 있습니다. 스타트업의 아키텍처가 성숙해짐에 따라, 모든 작업을 단일 프런티어 모델로 처리하게 되면 총이익이 빠르게 줄어들 수 있습니다. Gemini 에이전트를 사용하면 Gemini 모델, Anthropic의 Claude와 같은 서드 파티 모델, Gemma와 같은 경량 개방형 모델 전반에서 워크로드를 동적으로 라우팅할 수 있습니다.

스타트업에 미치는 영향: 특정 플랫폼에 종속되지 않고 유연하게 모델을 선택할 수 있습니다. 대량의 결정론적 작업에는 컴팩트 모델을, 복잡한 추론에는 프런티어 모델을 활용해 작업당 비용을 최적화할 수 있습니다. 또한 제품이 발전하더라도 워크플로를 처음부터 다시 빌드할 필요 없이 모델만 교체할 수 있습니다.

3. 기존 서비스 및 도구와의 연동

에이전트의 유용성은 에이전트가 도달할 수 있는 시스템에 따라 달라집니다. Gemini 에이전트는 Google Workspace 외에도 파트너 솔루션을 포함한 엔지니어링, 데이터, 비즈니스 스택에 직접 연결됩니다.

개발 및 공동작업: Git, Slack, Jira 등
데이터 및 로컬 파일: BigQuery, Postgres, Snowflake, Databricks 등과 데스크톱에 있는 파일
MCP를 통한 커스텀 도구: 네트워크 내부 또는 외부의 모든 모델 컨텍스트 프로토콜(MCP) 서버를 통해 엔지니어가 내부 도구를 빌드하고 공유할 수 있습니다.

스타트업에 미치는 영향: 엔지니어링 주기를 맞춤 커넥터를 유지하는 데 소비하는 대신, 팀에서 에이전트를 기존 코드베이스, 데이터베이스, MCP 도구에 바로 연결하여 데이터가 어디에 있든 실시간 데이터에 대해 조치를 취할 수 있습니다.

4. 기본 제공되는 보안 및 거버넌스

B2B 스타트업의 경우 기업 보안 감사가 거래를 지연시키는 경우가 많습니다. 내부적으로 모든 에이전트에는 명확한 감사 추적을 위해 암호화된 에이전트 아이덴티티가 할당되고, 격리된 샌드박스 내에서 실행되며, 기본 제공되는 프롬프트 인젝션 방어 기능으로 보호됩니다. 외부 트래픽은 Agent Gateway를 통해 라우팅되므로 거버넌스 정책을 적용할 수 있습니다. 동료 에이전트는 모두 Workspace 계정을 가지고 있으므로 현재 사용자를 관리하는 것만큼 간단하게 관리할 수 있습니다.

스타트업에 미치는 영향: 기업 고객의 CISO가 AI 워크플로에서 데이터 개인 정보 보호, 프롬프트 인젝션, 액세스 제어를 어떻게 처리하는지 물을 때 엔터프라이즈급 아키텍처가 준비되어 있다면 복잡한 조달 절차를 수월하게 통과할 수 있습니다.

5. 실시간 비용 관리로 런웨이 확보

몇 시간 또는 며칠 동안 하위 에이전트를 실행하는 자율 에이전트의 경우 루프를 확인하지 않으면 요금이 과도하게 청구될 수 있습니다. 이제 Cloud Billing 콘솔에서 직접 실시간 지출 한도를 설정할 수 있습니다. 한도에 도달하면 프로젝트의 에이전트가 자동으로 일시중지되므로 버그로 인해 예상치 못한 요금이 과도하게 청구되는 일을 방지할 수 있습니다. Gemini는 이전 세대보다 달러당 성능이 80% 더 우수한 추론 최적화 TPU 8i를 비롯한 Google의 특화된 AI 인프라를 기반으로 실행됩니다.

스타트업에 미치는 영향: 창업자와 개발자는 현금 보유액을 안전하게 보호하고 투자자에게 신뢰를 줄 수 있는 금융 안전망을 바탕으로, 장기 실행되는 병렬 에이전트 루프를 안심하고 실험해 볼 수 있습니다.

이미 빌드 중인 창업자

스타트업과 AI 기반 혁신 기업은 이미 Gemini를 활용하고 있습니다. 몰입형 스토리텔링 플랫폼인 Whenere는 Gemini 플랫폼을 기반의 에이전트형 3D 월드 빌딩 플랫폼인 Dreamlands를 사용하여 오만과 편견을 Fortnite에 구현했습니다. Gemini는 새로운 객체마다 약 7초 만에 10센트 미만의 비용으로 텍스처를 생성했습니다. 한 아티스트는 하루 만에 약 250개의 커스텀 애셋을 만들고 일주일도 안 되어 역사적으로 고증된 저택을 완성했습니다. 애플리케이션 빌드 플랫폼인 Lovable과 OpenEvidence, Recursion, Replit 등의 여러 스타트업과 혁신 기업도 함께합니다.

Google for Startups와 함께 빌드

에이전트 시대에는 소규모 팀이 내부 운영을 지원하는 동료 에이전트를 배포하든, 제품에 에이전트형 워크플로를 직접 빌드하든 상관없이 규모를 뛰어넘는 강력한 경쟁력을 갖출 수 있습니다.

이러한 새로운 Gemini 에이전트 기능은 아직 일반에 공개되지 않았지만, 스타트업은 영업팀에 문의하여 자세한 정보를 확인하고 도입 준비를 위한 상담을 진행할 수 있습니다. 그전까지는 Google for Startups 프로그램을 통해 크레딧, 실무 기술 가이드, 멘토십, 글로벌 창업자 커뮤니티 프로그램 등을 이용하실 수 있습니다.

아일랜드의 혁신: 아일랜드 브랜드가 Gemini Enterprise를 통해 비즈니스를 확장하는 방법

Thu, 15 Oct 2026 02:00:00 +0000

지난 수십 년간 아일랜드는 전 세계 기술 혁신을 주도하는 활기찬 허브로 거듭났습니다. 현대화가 가속화됨에 따라 정부 기관부터 유수의 기업 브랜드, AI 및 기타 분야에서 성장 중인 스타트업에 이르기까지 아일랜드의 다양한 조직이 기술적 토대를 다지며 발전하고 있습니다. 오늘날 전국의 리더들은 비즈니스 및 운영 워크플로의 모든 계층에 에이전트 AI를 도입하고 있습니다.

많은 조직이 Gemini Enterprise를 사용하여 초기 프로토타입 단계에서 프로덕션에 즉시 사용 가능한 배포 단계로 전환하고 있습니다. 이러한 발전은 유럽 시장 내 아일랜드의 경쟁 우위를 더욱 공고히 해줍니다. Google의 지역 기여도를 평가한 Implement Consulting Group의 최근 보고서에 따르면 공공 및 민간 부문 리더들은 글로벌 AI 시장의 경제적 잠재력이 400억에서 450억 유로에 달할 것으로 내다보고 있습니다.

이러한 목표는 정부 차원의 더 광범위한 이니셔티브와도 일치합니다. 아일랜드는 2026년 하반기 유럽연합 이사회 의장국을 맡은 이후, 다양한 부문에서 생산성과 혁신을 개선하기 위한 국가 디지털 및 AI 전략을 수립하는 등 고차원적인 기술 및 정책 논의를 주도해 왔습니다.

이러한 전략을 뒷받침하기 위해 Google은 누구나 이러한 역량을 더욱 쉽게 활용할 수 있도록 접근성을 높이는 데 집중하고 있습니다. Google Cloud의 현지 팀은 업계 리더들과 협력하여 Gemini Enterprise를 구현하고 있습니다. Gemini Enterprise는 대화형 AI 에이전트와 자연어 데이터 분석부터 에이전트형 생태계를 통한 운영 최적화에 이르는 다양한 기능을 제공합니다.

경제적 영향은 이미 가시화되고 있습니다. 2025년 한 해에만 AI 및 클라우드 서비스를 포함한 Google의 운영이 아일랜드 국내총생산에 약 100억 유로의 경제적 가치를 더한 것으로 추산됩니다. 이러한 모멘텀은 아일랜드 전역의 조직이 Google Cloud를 사용해 인프라를 현대화하고 AI를 활용하는 데서도 확인할 수 있습니다.

아일랜드 조직이 Google Cloud와 Gemini Enterprise를 통해 현대화하는 몇 가지 사례를 소개합니다.

Ryanair, AI 기반 운영으로 수백만 명의 승객 지원

유럽 최대 항공사인 Ryanair는 약 35,000명의 직원을 대상으로 Gemini Enterprise와 Google Workspace를 도입하여 협업 운영 방식과 인프라를 현대화하고 있습니다. 항공기 승무원, 운영 계획 담당자, 본사 직원들은 의사 결정의 간소화, 승무원 물류 서비스 최적화, 기업 생산성 향상 등 실질적인 혜택을 누리게 됩니다. 이와 동시에, Ryanair는 2034년까지 승객 수를 3억 명으로 늘린다는 목표를 추진하고 있으며 이중 클라우드 전략을 통해 인프라 복원력을 한층 더 강화하고 있습니다.

Smyths Toys, 에이전트형 지원으로 고객 경험 혁신

세계 최대의 장난감 전문 소매업체 중 하나인 Smyths Toys는 Google Cloud와 Gemini Enterprise를 통해 고객 지원 체계를 혁신하고 있습니다. Codie라는 AI 에이전트를 도입하여 웹 문의의 60% 이상을 해결하고 연말연시 이메일 백로그를 줄였습니다. 이전에는 성수기에 하루 최대 1,000건의 이메일을 처리해야 했던 고객 지원팀이 이제는 더 복잡한 판단이 필요한 50여 건의 핵심 사례에만 집중할 수 있게 되었습니다.

아일랜드 국세청: 공공 부문 데이터 활용의 혁신

아일랜드의 공공 부문 기관 역시 큰 진전을 이루고 있습니다. 아일랜드의 세금, 관세, 경제의 원활한 운영을 담당하는 아일랜드 국세청은 Google Cloud와 협력하여 기존 온프레미스 시스템에서 데이터 사일로를 허물고 단일 정보 소스를 구축하도록 설계된 통합 AI 레이크하우스 아키텍처로 마이그레이션하고 있습니다. 엄격한 데이터 주권 제어를 통해 납세자 정보를 안전하게 보호하는 한편, Gemini Enterprise의 에이전트형 데이터 분석 역량을 활용해 아일랜드 국세청이 더욱 안전하고 신속한 공공 서비스를 제공할 수 있도록 지원합니다.

Virgin Media Ireland: 워크플로 가속화

Virgin Media Ireland는 Google Cloud와 Liberty Global의 파트너십을 바탕으로 AI를 탐색 단계에서 프로덕션 단계로 전환하고 있습니다. 현대적인 인프라와 자동화를 바탕으로, 이제 팀은 워크로드를 3배 더 빠르게 배포하고 있습니다. 또한 여러 AI 에이전트를 순차적으로 도입하는 한편, 비즈니스 성장을 견인할 신규 고객 서비스를 선보이고 있습니다.

엔터프라이즈 도구를 활용해 비즈니스를 확장하는 아일랜드 스타트업

기존 기업이 레거시 시스템을 현대화하는 동안 아일랜드 스타트업은 처음부터 최신 기술을 기반으로 비즈니스를 구축하고 있습니다. 탄탄한 현지 기술 생태계를 발판 삼아, 이들 민첩한 팀들은 세계 무대에서 경쟁력을 갖춘 서비스를 만들고 있습니다.

Hexis: 맞춤형 스포츠 영양 서비스 확장

Hexis는 운동선수가 경기력을 향상하고 컨디션을 회복할 수 있도록 돕는 기술 솔루션을 빌드합니다. Hexis는 실시간 생체 인식 데이터와 행동 데이터를 Google Cloud에 저장하고 처리함으로써 Gemini Enterprise를 사용해 사용자에게 하루 동안의 에너지 섭취 조절 과정을 설명해주는 자연어 대화 기능을 제공합니다. 현재 이 플랫폼은 2026~2027 시즌 동안 투르 드 프랑스 펠로톤의 40%와 프리미어 리그 클럽의 절반을 지원하고 있습니다.

Kitman Labs: 경기력 분석의 통합

2012년 더블린에서 설립된 Kitman Labs는 26개국 4,000개 이상의 스포츠 조직에 스포츠 과학 및 성과 인텔리전스를 제공합니다. Kitman Labs는 인텔리전스 플랫폼을 고급 분석 및 Gemini Enterprise와 결합하여 팀이 데이터에 기반한 의사 결정을 내릴 수 있도록 지원합니다. 이를 통해 선수의 건강을 관리하고 부상 위험을 낮추며, 선수 생활을 더 오래 할 수 있도록 돕습니다.

Spryt: 의료 조정 업무의 자동화

Spryt는 Google Cloud 및 Gemini Enterprise를 기반으로 빌드된 AI를 사용하여 영국과 미국 전역의 의료 조정을 간소화함으로써 환자 경험을 최적화하고, 예약 부도를 줄이고, 행정 업무 부담을 줄입니다. Spryt는 NHS와 협업하고 미국 내 70개 이상의 클리닉에서 솔루션을 운영 중이며, Mayo Clinic과 진행한 다년간의 이니셔티브를 통해 2억 2,400만 건의 예약 기록을 분석했습니다.

IMPT: 탄소 상쇄 자동화

IMPT는 AI, 블록체인, Google Cloud를 결합하여 일상적인 호텔 예약과 온라인 쇼핑 과정에서 검증된 탄소 상쇄를 실천할 수 있도록 지원합니다. 15주에 걸친 Google Cloud 마이그레이션 작업을 마친 IMPT는 현재 195개국에서 800만 개의 등록정보를 관리하고 있습니다. Gemini Enterprise를 도입한 IMPT의 소규모 팀은 매일 약 400건의 고객 채팅을 처리하며, 응답 시간 중앙값은 6초에 불과합니다. 덕분에 직원들은 시스템 관리 업무에서 벗어나 비즈니스 성장에 더욱 집중할 수 있게 되었습니다.

아이디어를 계획 단계에서 프로덕션 단계로 전환

아일랜드가 글로벌 기술 허브로서 입지를 넓혀가는 가운데, 현지 기업들은 AI 잠재력을 실질적인 결과로 전환하는 방법을 보여주고 있습니다. Google Cloud 고객 사례를 통해 다양한 조직들이 어떻게 혁신을 구현하고 있는지 확인해 보세요. 아일랜드 현지 팀에 문의하여 여러분의 비즈니스 여정에 속도를 더할 수도 있습니다.

AI21, AI 하이퍼컴퓨터로 AI 워크로드 시작 시간 83% 단축

Mon, 12 Oct 2026 17:00:00 +0000

편집자 주: AI21 Labs는 Jamba 제품군을 비롯한 파운데이션 모델 개발에 오랜 실적을 보유한 선도적인 글로벌 AI 연구소로, 현재는 전문화된 LLM과 에이전트 최적화 기술에 주력하고 있습니다. AI21은 Google Cloud AI 하이퍼컴퓨터를 도입하여 우선순위가 높은 작업의 대기 시간을 72시간에서 12시간으로 단축하고, 수동 스케줄링 개입을 주당 20회에서 0회로 줄였습니다.

AI21은 기업이 최첨단 품질의 에이전트를 효율적으로 실행할 수 있도록 지원하는 파운데이션 모델과 에이전트 최적화 제품을 개발합니다. Jamba 제품군을 비롯한 언어 모델과 에이전트 최적화 제품군은 까다로운 프로덕션 워크로드를 실행하며, 여기에는 AI21 자체 워크로드도 포함됩니다. AI21은 대규모 지원을 위해 Google Cloud AI 하이퍼컴퓨터를 선택했습니다.

모델 학습 실행의 사용률을 높게 유지하려면 인프라, 조정, 가격 모델 전반에서 공동 설계된 확장 가능한 고성능 환경이 필요했습니다. AI21의 모델 학습은 공유 Google Kubernetes Engine(GKE) 클러스터 중 하나에서 실행되며, 수천 개의 Google Cloud A3(NVIDIA H100 Tensor Core GPU 기반) 및 A3 Ultra(NVIDIA H200 Tensor Core GPU 기반) 인스턴스를 풀링하므로 모든 팀이 자체 슬라이스에 갇히지 않고 Fleet의 전체 용량을 활용할 수 있습니다. 이 클러스터는 Jamba 제품군 외에도 모델 및 에이전트 최적화 워크로드를 학습시킵니다. 이 접근 방식은 사용률을 높게 유지하고 스케줄링을 어렵게 만듭니다.

사용률이 높은 클러스터의 교착 상태

조정에 GKE를 활용하기 전에는 Slack을 통해 직접 용량을 조율하곤 했습니다. 학습 실행을 위한 용량이 필요하면 #gpu-resources 채널에 글을 올리고 잘되기를 바라는 수밖에 없었습니다.

클러스터에 여유 공간이 있을 때는 이 방법이 효과적이었습니다. 하지만 예약된 컴퓨팅 Fleet의 목표인 사용률 100%에 가까워지자, 이 방법이 더 이상 통하지 않았습니다.

시간이 지나면서 모든 요청이 조율 대상이 되었고, 팀장은 컴퓨팅 리소스를 둘러싼 분쟁을 중재하는 데 시간을 보내야 했습니다. 우선순위가 높은 작업, 이를테면 한 번에 클러스터의 절반 이상이 필요하고 모델 프로젝트의 중요한 경로 역할을 하는 대규모 멀티 노드 학습 실행 작업도 충분한 연속 처리 용량이 확보될 때까지 최대 72시간 동안 차단된 상태로 대기해야 했습니다.

그림 1: #gpu-resources 채널의 일상적인 모습 — 수동 요청, 임시 조정, 답변을 기다리는 연구원

용량 부족은 두 가지 문제를 야기했고, 이 두 가지를 별개의 문제로 인식하기까지는 꽤 오랜 시간이 걸렸습니다. 첫 번째는 경합 문제, 즉 다음에 누가 컴퓨팅 리소스를 사용할 것인지 결정하는 문제였는데, 이는 협상을 통해 해결했습니다. 두 번째는 단편화 문제였습니다. 기술적으로는 사용 가능한 용량이 남아 있지만 대규모 작업에 사용하기에는 너무 작은 단위로 흩어져 있어 아무리 협상해도 해결할 수 없는 빈 패킹 문제와 같은 상황이 생겼습니다.

그림 2: GPU 단편화. 4개의 노드에 1+1+4+2로 분산된 8개의 무료 GPU는 8-GPU 워크로드에 적합하지 않습니다.

수치상으로는 용량이 충분히 남아 있는 것처럼 보이지만, 실제로는 여러 머신에 너무 작은 단위로 분산되어 있어 더 큰 작업을 처리하기에는 부족한 경우가 있었습니다. 양자택일 방식의 작업 승인이 없다 보니, 관리자가 수동으로 개입할 때까지 머신이 실제 작업은 수행하지 않으면서 리소스만 점유한 채 클러스터가 교착 상태에 빠지곤 했습니다.

기존 방식이 더 이상 효과적이지 않으며, 더 나은 방식이 필요하다는 점이 분명해졌습니다.

적절한 스케줄러 선택

AI21은 Apache YuniKorn, Volcano, Kueue를 비롯한 몇 가지 오픈소스 일괄 스케줄러를 살펴보았습니다. YuniKorn은 AI21의 모든 사용 사례를 포괄하지 못했습니다. Volcano는 더 많은 기능을 제공하지만, 이를 우리 환경에 통합하려면 핵심 Kubernetes 스케줄러 구성요소를 교체해야 했습니다.

Kueue가 단순성과 통합 측면에서 우수했습니다. 표준 Kubernetes와 호환되고, 핵심 구성요소를 교체할 필요가 없으며, 작업 사양을 다시 작성할 필요도 없었습니다.

GKE를 통해 AI 하이퍼컴퓨터의 유연하고 개방적인 운영 방식과 Kueue를 결합한 것도 성공에 기여한 요인이었습니다. GKE는 컴퓨팅 집약적인 AI 작업에 적합한 수준의 제어 기능을 제공합니다. 즉, 원시 인스턴스를 직접 관리하는 데 따른 오버헤드 없이도 GPU 하드웨어와 드라이버에 긴밀하게 액세스할 수 있습니다. Kueue는 Spot VM 및 동적 워크로드 스케줄러와 같은 Google Cloud 용량 유형을 포함하여 GKE와 기본적으로 통합되므로, 예약된 용량이 가득 차면 작업이 대기 상태로 멈춰 있는 대신 동일한 스케줄링 로직이 탄력적 용량을 자동으로 활용할 수 있게 해 줍니다.

오픈소스로 루프 닫기

Kueue를 도입하면서 단순한 프로세스 변경 이상의 큰 변화가 일어났습니다. AI21은 Google Cloud와 파트너 관계를 맺고 있기 때문에 기술계정 관리자와 직접 소통할 수 있었고, 이 관리자는 AI21을 Kueue팀의 설계 파트너로 만들 수 있는 기회를 발견했습니다. 이를 통해 AI21은 단순한 사용자가 아니라 도구의 발전 방향을 형성하는 데 도움이 되도록 실질적인 프로덕션 요구사항을 제시하는 주체가 될 수 있었습니다.

이 파트너십의 첫 번째 결과물 중 하나는 Kueue팀과 공유한 요구사항 문서였습니다. 이 문서에는 우리에게 필요했지만 아직 존재하지 않았던 동작, 즉 공정성에 보통 따라오는 선점 없이도 여러 팀의 멀티 노드 작업을 공정하게 순서대로 승인하는 동작이 설명되어 있었습니다. Kueue팀은 이 동작을 구현해냈습니다. Admission Fair Sharing(AFS)은 이미 실행 중인 작업을 중단하지 않고 이전에 용량을 적게 사용한 팀에 유리하도록 승인 대기열의 순서를 재조정합니다. 비슷한 시기에 AI21에서는 토폴로지 인식 스케줄링도 사용하기 시작했습니다. 기존의 이 기능 덕분에 Kueue가 물리적 클러스터 레이아웃을 인식할 수 있게 되었으며, 단일 노드에 맞지 않는 작업을 실행할 수 없는 위치에 배치하는 대신 해당 작업의 승인을 거부할 수 있었습니다.

AI21에게 있어 최상의 오픈소스 피드백 루프는 프로덕션에서의 사용을 통해 드러난 실제 요구사항이 Kueue에 직접적으로 다시 반영되는 것입니다.

동일한 Fleet, 더 적은 불편

이제 Slack #gpu-resources 채널은 보관처리되었습니다. 디버그 포드, 멀티 노드 학습 실행, 추론 배포 등 모든 워크로드는 자동으로 큐에 추가되고, 우선순위가 지정되고, 스케줄링됩니다. 효과는 즉각적이었습니다. 수동 개입이 주당 약 20회에서 0회로 줄었습니다. 이전에는 최대 72시간을 기다려야 했던 높은 우선순위 작업의 대기 시간이 이제 12시간으로 줄었습니다. 클러스터 전반의 단편화는 15%에서 8%로 감소했으며, 실행할 곳이 없는 상태에서 부분적으로 허용되는 워크로드가 발생하는 '좀비 작업' 문제가 사라졌습니다.

이러한 변화로 인해 총비용이 달라진 것은 아닙니다. 예약된 Fleet을 의도적으로 100%에 가까운 사용률로 실행하므로 원시 지출은 애초에 최적화하려는 변수가 아니었습니다. 달라진 점은 직원들이 시간을 쓰는 방식이었습니다. 이제 팀장은 더 이상 컴퓨팅 리소스 분쟁을 중재할 필요가 없으며, 연구원들은 Slack에서 답장을 기다리지 않아도 됩니다. 모두가 더 많은 실험을 실행하고 더 빠르게 반복 작업을 진행할 수 있게 된 것입니다.

1인 창업자가 AlloyDB와 MCP를 기반으로 5개 대륙에서 입찰 플랫폼을 운영하는 방법

Tue, 06 Oct 2026 16:00:00 +0000

편집자 주: 5개 대륙의 시장에서 활동하는 입찰 인텔리전스 스타트업인 Lucius AI에서는 단일 운영자가 PostgreSQL용 AlloyDB를 기반으로 전체 데이터 플랫폼을 운영하고 있습니다. 이 기업은 시맨틱 검색을 ScaNN 색인으로 마이그레이션하고 모델 컨텍스트 프로토콜(MCP)로 데이터베이스 작업을 관리하여 쿼리 지연 시간을 47배 단축하고 MCP를 통해 일상적인 관리 작업을 자동화했습니다.

핵심 요약

Lucius AI는 영국, 오스트레일리아, 인도, EU 전역에서 210,000개 이상의 입찰 공고를 처리하는 글로벌 입찰 플랫폼을 운영하고 있지만, 1인 창업자에게 최소한의 운영 오버헤드만을 요구합니다.
Lucius AI는 PostgreSQL용 AlloyDB를 배포하여 관계형 카탈로그, 감사 로그, 벡터 임베딩을 단일 관리형 데이터베이스 엔진으로 통합했습니다.
시맨틱 검색을 ScaNN 색인으로 마이그레이션한 결과, 대표적인 프로덕션 쿼리에서 쿼리 지연 시간이 1.14초에서 24밀리초로 줄어 속도가 47배나 향상되었습니다.
Lucius AI는 모델 컨텍스트 프로토콜(MCP)을 사용해 AI 에이전트를 AlloyDB에 연결하여 엄격한 최소 권한에 따라 쿼리 분석, 데이터 기록 빈도 확인, 사고 포렌식을 자동화하고 있습니다.

1인 기업의 입찰 인텔리전스 활용

Lucius AI는 공공 계약에 입찰하는 기업이 글로벌 시장 전반의 기회를 평가할 수 있도록 지원합니다. 이 플랫폼은 뉴질랜드, 미국, 싱가포르, 영국, 오스트레일리아, 인도, 캐나다, EU의 공공 조달 공고와 아프리카 및 아시아 전역의 세계은행 기부금 지원 공고를 수집합니다. Lucius AI는 Gemini를 사용하여 입찰 공고 문서를 분석하고 규정 준수 매트릭스, 입찰 추천, 원본 소스 페이지를 인용한 응답 초안을 생성합니다. 이 플랫폼은 중소 규모 공급업체에서 수작업으로 처리하려면 며칠이 걸리는 문서 검토와 많은 비용이 드는 외부 컨설팅을 대체할 수 있습니다.

이러한 규모의 플랫폼을 운영하려면 광범위한 운영 조정이 필요합니다.

야간에 13개의 공공 조달 소스에서 데이터 수집
진행 중인 수만 건의 입찰을 포함한 210,000건 이상의 입찰 공고 카탈로그
Cloud Run의 두 프로덕션 리전: 유럽, 그리고 방위 산업 부문 고객을 위해 고객 관리 암호화 키(CMEK)를 사용하는 자체 AlloyDB 클러스터 기반의 오스트레일리아 배포
지속적인 분석, 성능 조정, 데이터 검증, 사고 대응

전담 데이터 엔지니어링팀 또는 데이터베이스 관리팀 없이 이러한 운영 업무를 관리하려면 운영 유지보수를 외부에 위임해야 합니다. Lucius AI는 PostgreSQL용 AlloyDB를 핵심 레코드 시스템으로 사용하고 모델 컨텍스트 프로토콜(MCP)을 통해 AI 에이전트를 연결하여 데이터베이스 작업을 안전하게 실행함으로써 이 문제를 해결했습니다.

AlloyDB로 시스템 통합

Lucius AI는 별도의 관계형 데이터베이스, 벡터 데이터베이스, 로그 스토어를 배포하는 대신 PostgreSQL용 AlloyDB에 모든 핵심 데이터를 저장합니다. 관계형 입찰 공고 카탈로그, 문서 메타데이터, 감사 로그, 벡터 임베딩이 동일한 데이터베이스 엔진에 상주합니다. 벡터 임베딩을 관계형 행과 함께 저장하면 별도의 벡터 스토어를 관리할 필요가 없고 통합된 백업 스케줄을 수립할 수 있으며 ID 관리를 중앙 집중화할 수 있습니다.

인증은 전적으로 Cloud IAM을 사용합니다. 서비스 연결 시 애플리케이션 환경에 데이터베이스 비밀번호를 저장하는 대신 특정 액세스 요구사항에 맞게 범위가 지정된 데이터베이스 역할에 매핑된 전용 Google Cloud 서비스 계정을 사용합니다. AlloyDB에서 자동 백업 및 PITR(point-in-time recovery)을 통해 데이터베이스 안정성을 기본적으로 관리해 주므로 커스텀 재해 복구 절차가 필요하지 않습니다.

이 통합 아키텍처는 프로덕션에서 다음과 같은 사항을 지원합니다.

카탈로그에 210,000개 이상의 입찰 공고가 포함되어 있으며 임베딩이 함께 저장됩니다.
시맨틱 색인을 다시 빌드하는 과정에서 Gemini 임베딩 모델을 사용하여 약 3달러에 불과한 API 비용으로 10.6분 만에 115,820개의 레코드를 임베딩했습니다. 현재는 AlloyDB 자동 임베딩을 통해 이러한 벡터를 최신 상태로 유지하고 있습니다.
ai.rank 함수를 사용하여 검색 순위 재지정을 평균 지연 시간 77밀리초로 데이터베이스 내에서 직접 실행하여 독립형 순위 재지정 마이크로서비스 없이도 검색어에 가장 관련성 높은 결과를 반환합니다.

시맨틱 검색 속도 47배 향상

입찰 공고 카탈로그 전반의 시맨틱 검색에서 처음에는 색인이 생성되지 않는 벡터 비교를 사용하여 대표 쿼리에 1.14초가 걸렸습니다. 이 워크로드를 AlloyDB의 ScaNN 색인으로 마이그레이션한 결과, 쿼리 지연 시간이 24밀리초로 단축되어 속도가 47배 개선되었습니다.

색인 추천은 색인 마이그레이션을 준비하기 전에 쿼리 계획을 벤치마킹한 자동화된 성능 감사 과정에서 AI 에이전트를 통해 생성되었습니다.

MCP를 사용한 데이터베이스 작업 자동화

Lucius AI는 일상적인 관리 작업을 위임하기 위해 사전 빌드된 alloydb-postgres 서버를 사용하여 오픈소스 데이터베이스용 MCP 도구 상자를 구성했습니다.

운영 위임에는 엄격한 액세스 제어가 필요합니다. 이 에이전트는 스키마 전반의 SELECT 권한과 단일 운영 테이블에 대한 UPDATE 권한이 부여된 전용 PostgreSQL 역할을 사용하여 연결됩니다. 파괴적인 명령어 (DROP, DELETE, TRUNCATE)는 생략하여 에이전트 작업을 승인된 운영 경계로 제한합니다.

이 구성에 따라 AI 에이전트가 4가지 주요 영역에서 정기적인 데이터베이스 작업을 수행하고 있습니다.

주문형 분석: 임시 SQL 쿼리를 통해 국가별로 유지 사용자 집단, 활성화 유입경로, 카탈로그 적용 범위를 컴파일하여 수동 대시보드나 복잡한 분석 파이프라인을 빌드하고 유지보수할 필요가 없습니다.
성능 최적화: ScaNN 색인 생성 전략 식별과 같은 쿼리 계획 검사 및 색인 분석을 수행합니다.
사고 포렌식: 외부 보안 프로브에 대응하여 에이전트가 감사 로그를 파싱하여 몇 분 만에 요청 타임라인을 재구성하고 테넌트 격리가 그대로 유지되었는지 확인합니다.
자동화된 데이터 품질 검사: 매일 아침 13개 조달 소스 전체에서 수집 워터마크와 최신 상태를 평가합니다.

이 아키텍처를 채택할 경우 점진적인 권한 구조를 설정하면 명확한 가드레일을 마련할 수 있습니다. 읽기 전용 액세스로 시작하고, 요구사항에 따라 권한을 확장하고, 파괴적인 작업은 인간 관리자로 제한하면 됩니다.

향후 계획

Lucius AI는 운영 오버헤드를 더욱 줄이기 위해 세 가지 기술 이니셔티브를 계획하고 있습니다.

AlloyDB AI의 자동화된 벡터 임베딩: 전체 카탈로그에서 ai.initialize_embeddings를 검증한 후 주간 유지보수 작업에서 ai.refresh_embeddings를 사용하여 벡터를 업데이트합니다.
열 기반 엔진 가속화: 자동 열 지정을 지원하는 AlloyDB의 열 기반 엔진을 사용 설정하자 데이터베이스에서 하루 만에 4개의 테이블에서 자주 쿼리되는 열 40개를 식별하여 메모리에 저장했습니다. 그 결과, 별도의 분석 스토어 없이도 보고 쿼리 속도가 향상되었습니다.
관리형 원격 MCP 서버: 자체 호스팅 도구 상자 프로세스에서 Google Cloud의 AlloyDB용 완전 관리형 원격 MCP 서버로 전환해 MCP 서버 호스팅 및 유지보수 부담을 줄일 예정입니다.

Lucius AI는 AlloyDB를 핵심 데이터의 기반으로 삼고 MCP를 통해 일상적인 작업을 관리하면 엔지니어가 한 명이더라도 복원력 있는 멀티 리전 조달 플랫폼을 빌드하고 운영할 수 있음을 보여줬습니다.

Lucius AI에 대해 자세히 알아보려면 ailucius.com을 방문하세요. PostgreSQL용 AlloyDB를 평가하려면 AlloyDB 클러스터를 배포하여 자체 워크로드로 성능을 테스트해 보세요.

AI 시대를 맞아 성장하는 라틴 아메리카 중견기업의 AI 활용 방식

Tue, 06 Oct 2026 07:00:00 +0000

라틴 아메리카의 중소기업은 지역 경제의 핵심 동력입니다. 유엔 추정치에 따르면 이들 기업은 라틴 아메리카 전체 고용의 60% 이상을 차지합니다. 이들과 비슷한 기업들과 마찬가지로, 어디에서나 적극적으로 AI를 도입하려는 팀들이 빠르게 움직이고 있습니다.

많은 기업이 이미 생성형 도구와 Agentic Workflows를 실험하는 단계를 넘어, 이를 일상 업무에 활용해 업무 효율을 높이고 시간을 절약하며 탁월한 고객 경험을 제공하고 있습니다. 특히 성장 중인 기업들은 AI 투자 효과를 극대화하는 데 주력하고 있습니다. 예를 들어, 빠르고 비용 효율적인 모델로 매일 수신하는 이메일을 요약하거나 복잡한 데이터 분석에 고급 모델을 활용하는 등 각 팀은 수행할 작업과 예산에 맞춰 적합한 AI 기능을 선택할 수 있습니다.

이처럼 다양한 선택지를 제공하고 Google의 비즈니스, 미디어 및 광고 도구 전반에 익숙하다는 점에서 많은 중소기업이 AI 플랫폼으로 Google Cloud를 선택하고 있으며, 특히 Gemini Enterprise를 적극적으로 도입하고 있습니다. 이를 통해 기업은 맞춤형 AI 에이전트를 구축하고 일상적인 업무와 서류 작업을 간소화할 수 있습니다. 또한 글로벌 시장에서 경쟁하는 데 필요한 속도와 도달 범위를 바탕으로 고객을 즉각적으로 지원할 수 있습니다.

Google Cloud는 이러한 현장을 가까이에서 지켜보면서, 중소기업이 Gemini Enterprise를 생성형 AI에 활용하는 데 그치지 않고, Google Kubernetes Engine 및 BigQuery와 같은 필수 클라우드 도구의 도입을 촉진하는 수단으로 활용해 전 과정을 아우르는 현대화를 추진하는 모습을 확인해 왔습니다. Google Cloud AI 도구를 사용하는 라틴 아메리카 중소기업 수는 전년 대비 8배 증가했으며, 브라질 중소기업의 경우 전년 대비 9배 증가했습니다. 이러한 빠른 도입은 Gemini 모델과 Gemini Enterprise는 물론 핵심 클라우드 인프라 전반으로 확산되고 있으며, 기업은 이를 통해 다음과 같은 성과를 거두고 있습니다.

더 나은 고객 지원 시스템을 구축하여 고객 문의를 적절한 담당자에게 에스컬레이션하고 더 빠르게 해결할 수 있습니다.
급여 및 회계 등의 분야에서 반복적인 작업을 자동화할 수 있습니다.
데이터 분석가 교육을 받지 않은 직원도 업무에 필요한 데이터를 이해하고 활용할 수 있도록 지원합니다.
마케팅 콜레트럴에 사용할 새로운 디자인을 빠르게 제작하고 적용할 수 있습니다.
더 많은 직원이 일상 업무에 활용할 자체 AI 에이전트를 구축할 수 있도록 지원합니다.

오늘 브라질에서 열리는 Google Cloud Summit을 앞두고 Google AI를 활용해 불필요한 반복 업무를 줄이고 고객에게 더 신속하게 서비스를 제공하며 비즈니스를 성장시키고 있는 라틴 아메리카의 신규 고객 약 20곳을 소개하게 되어 매우 기쁩니다.

Google AI를 업무에 활용하는 라틴 아메리카의 신규 고객

AdGoat: 아르헨티나에 본사를 둔 광고 기술 기업으로, 전 세계 100개 이상의 웹사이트에서 연간 100억 건이 넘는 광고 요청을 처리합니다. Cloud Run, Gemini API, Gemini Enterprise를 활용해 콘텐츠 분석, 광고 입찰, 잠재고객 타겟팅을 자동화하고, 이를 통해 이커머스 브랜드가 광고 캠페인의 성과를 높일 수 있도록 지원합니다.
Angelus: 브라질의 치과 및 헬스케어 제품 제조 기업으로, Gemini Enterprise를 활용해 연구개발 부서 전반의 프로젝트 관리를 간소화합니다. 이를 통해 각 팀은 기술 프로젝트 데이터를 회사의 브랜드 아이덴티티와 규제 요건에 부합하는 사전 승인된 템플릿에 자동으로 입력할 수 있습니다.
BunkerDB: 라틴 아메리카 전역에서 사업을 운영하는 마케팅 분석 기업으로, Gemini Enterprise, Cloud Run, Cloud Storage를 활용해 AI 플랫폼을 구축했습니다. 이 플랫폼은 마케팅 자료를 체계적으로 관리하고, 브랜드 규정 준수 여부를 확인하며, 멀티모달 콘텐츠를 생성하거나 수정하고, 광고 집행 전에 광고 실적을 예측합니다. 이를 통해 광고 소재 제작 기간을 몇 주에서 몇 시간으로 단축하고 리드당 비용을 최대 25% 절감할 수 있습니다.
Caffeine Army: 영양, 스포츠, 웰빙 분야의 솔루션을 제공하는 브라질의 웰니스 및 고성능 제품 기업입니다. Google Cloud에서 BigQuery와 Gemini Enterprise를 도입해 고객의 구매 관련 인사이트를 통합했습니다. 이를 통해 크리에이티브 캠페인 제작 및 수정에 소요되는 시간을 단축하고 조직 전반의 팀 생산성을 높였습니다.
Convert: 브라질의 마케팅 및 데이터 분석 서비스 제공업체로, Looker, BigQuery, Cloud Run을 활용해 복잡한 비즈니스 질문에 자연어로 답변하는 전문 AI 에이전트 5개를 구축했습니다. 이를 통해 보고서 제공 시간을 65% 단축하고 운영 비용을 32% 절감했습니다.
Growth Digital: 라틴 아메리카 13개국에서 Google 광고 영업을 대행하는 기업으로, BigQuery와 Gemini Enterprise를 활용해 113개가 넘는 AI 에이전트를 구축했습니다. 이를 통해 팀은 제안서를 5배 더 빠르게 작성하고, 캠페인 보고 시간을 80% 단축했으며, 재무 오류율을 0.01% 미만으로 낮췄습니다.
GrupoTusMaquinas.com: 칠레에 본사를 둔 장비 관리 플랫폼으로, Google Cloud AI 도구와 Gemini 모델을 도입해 트럭과 기계의 디지털 추적 프로필을 생성했습니다. 이를 통해 기업은 자연어로 차량 및 장비의 운용 현황을 조회하고, 브랜드나 위치에 관계없이 차량을 관리할 수 있습니다.
HealthAtom: 헬스케어 기술 기업으로, Gemini API, Firestore, Cloud Functions를 활용해 자사의 의료 플랫폼 전반에 AI 어시스턴트를 도입했습니다. 이를 통해 진료 예약과 의료 기록 검토를 자동화하는 동시에 연간 8,000만 건의 환자 상호작용을 지원합니다.
KLog.co: 라틴 아메리카 전역의 화물 운송 업무를 디지털화하는 칠레의 물류 기술 기업으로, Gemini Enterprise, BigQuery, Google Workspace를 활용해 화물 추적과 운송 서류 처리를 자동화했습니다. 이를 통해 수작업으로 데이터를 입력할 때 발생하는 오류를 90% 이상 줄이고 문서 처리 역량을 10배 높였습니다.
NEEOH: 브라질의 주요 옥외 광고 플랫폼으로, Gemini Enterprise를 활용해 조직 전반에 안전한 AI 사용 환경을 구축하고 있습니다. 이를 통해 기업 고객의 데이터를 안전하게 보호하면서 팀이 캠페인 문구를 생성하고 영업 제안서를 더 빠르게 작성할 수 있도록 지원합니다.
Luxia Agro: 아르헨티나의 농작물 보호 제품 무역 기업으로, Gemini 3.5 Flash와 Gemini Enterprise를 활용해 복잡한 운송 관련 이메일에서 주요 정보를 자동으로 추출하고 중앙 비즈니스 시스템을 업데이트합니다. 이를 통해 대외 무역 업무의 80%를 자동화하고 수작업 처리 과정에서 발생하는 오류를 절반으로 줄였습니다.
Macal: 칠레의 경매 기업으로, Gemini Enterprise, Cloud Run, BigQuery, Security Command Center를 활용해 부동산 기록을 자동으로 검증하고 기술 시스템을 현대화했습니다. 이를 통해 소프트웨어 개발 기간을 몇 주에서 며칠로 단축하고 인프라 비용을 최대 30% 절감했습니다.
Ninecon: 브라질의 기술 컨설팅 기업으로, Gemini Enterprise를 도입해 직원들의 워크플로에 AI를 직접 통합했습니다. 이를 통해 관리자는 실시간 통계를 바탕으로 AI 사용 패턴을 파악하고 프로젝트 처리 기간을 최적화할 수 있습니다.
Nova Gestões: 브라질의 고객 서비스 및 운영 관리 기업으로, Cloud Speech-to-Text와 Gemini Enterprise를 활용해 고객 통화 내용을 100% 실시간으로 번역하고 분석합니다. 이를 통해 통화 후 수작업으로 데이터를 입력하는 업무를 줄이고 팀 생산성을 30% 높였습니다.
Romi: 브라질의 산업용 기계 제조업체로, Gemini API와 Gemini Enterprise를 활용해 CNC 기계의 HMI(휴먼 머신 인터페이스)에 대화형 채팅 어시스턴트를 직접 구현했습니다. 이를 통해 공장 작업자는 공식 매뉴얼에 기반한 답변을 즉시 확인할 수 있으며, 단계별 안내 동영상으로 연결되는 QR 코드도 생성할 수 있습니다.
Supermercados El Dorado: 우루과이의 주요 슈퍼마켓 체인으로, Google Compute Engine과 Gemini Enterprise를 활용해 기존 테스트 인프라를 현대화하고 맞춤형 AI 에이전트를 일상적인 업무 프로세스에 통합했습니다. 이를 통해 각 부서의 팀 생산성을 높이고 있습니다.
Tryvia: 브라질의 IT 및 비즈니스 솔루션 제공업체로, Google Cloud, Looker, Gemini Enterprise를 활용해 기존의 물리적 서버 기반 시스템에서 클라우드로 전환했습니다. 이를 통해 팀에 실시간 보고 대시보드와 AI 도구를 제공하고 소프트웨어 개발 및 일상 업무의 속도를 높이고 있습니다.
Via Cristais: 브라질의 주요 고속도로 운영 기업으로, Google Contact Center as a Service를 활용해 고속도로 사고 발생 시 긴급 신고를 신속하게 적절한 담당 부서로 연결합니다. 이를 통해 신고자의 통화중 대기 시간을 줄이고 운전자 만족도를 높이는 한편, 콜 센터 직원의 이직으로 인한 업무 차질도 완화하고 있습니다.
WeSpeak: 라틴 아메리카의 호텔 및 숙박 업계를 위한 AI 대화 플랫폼으로, Cloud Run, Gemini Pro, Gemini Flash를 활용해 WhatsApp과 Instagram 등 메시징 채널을 통한 고객 응대 전 과정을 자동화했습니다. 이를 통해 고객 문의의 85%를 해결하고 호텔 고객사의 전체 매출 규모를 2배로 늘리는 성과를 거뒀습니다.

팀의 AI 역량 강화 지원

성장하는 팀이 AI를 최대한 효과적으로 활용할 수 있도록 누구나 쉽게 이용할 수 있는 무료 학습 프로그램을 마련했습니다.

중소기업을 위한 프로그램: 초보자도 쉽게 따라 할 수 있는 교육 과정을 살펴보거나 전문 프로그램에 참여해 일상 업무에 활용할 맞춤형 AI 어시스턴트를 구축하는 방법을 배워 보세요.
조직을 위한 Google Skills: Google Cloud와 Google DeepMind 전문가가 설계한 수천 개의 무료 AI 온라인 강좌와 실습형 교육을 원하는 시간에 수강할 수 있습니다.
자격증 취득: 체계적인 교육 과정과 전문가 멘토링, 기술 배지를 통해 직원들이 업계에서 인정받는 AI 자격증을 취득할 수 있도록 지원하세요.

Google은 Workspace의 일상적인 사무용 앱부터 Google Cloud의 고급 AI 기술까지, 사용하기 쉬운 도구와 무료 교육을 제공하여 라틴 아메리카 기업들이 현재는 물론 미래에도 지속적으로 성장할 수 있도록 지원합니다.

Scribd, Inc., Gemini Enterprise의 Gemini 일괄 추론을 활용해 4억 개 이상의 문서 분류

Mon, 05 Oct 2026 22:00:00 +0000

Scribd, Inc.는 세계 최대 규모의 인간 제작 콘텐츠 컬렉션을 보유한 기업 중 하나입니다.

Scribd의 제품은 세계 최대 규모의 사용자 제작 콘텐츠 컬렉션과 지능형 도구를 활용하여, 사용자가 단순히 정보를 얻는 수준을 넘어 이를 진정으로 이해하고 실생활에 적용할 수 있도록 돕습니다.

지난해 Scribd는 Gemini의 기본 PDF 이해 기능과 Gemini Enterprise 일괄 예측을 사용하여 120억 페이지가 넘는 4억 개 이상의 사용자 제작 콘텐츠 코퍼스 전체에 대해 몇 달 만에 신뢰 및 안전 분류 작업을 실행했습니다.

그 결과는 다음과 같습니다.

Scribd 및 Slideshare에서 사용자가 업로드한 4억 개 이상의 문서(120억 개 이상의 텍스트 및 이미지 페이지)를 분류했습니다.
Google Cloud가 일정에 맞춰 일괄 처리량을 확장해 준 덕분에, 단 몇 달 만에 코퍼스 전체 백필을 완료할 수 있었습니다.
기본 PDF 입력 방식을 지원하므로 별도의 OCR, 렌더링 또는 스크린샷 파이프라인을 빌드할 필요 없이 코퍼스의 99% 이상을 있는 그대로 처리할 수 있었습니다.
Gemini Enterprise의 일괄 예측은 대화형 가격 대비 50% 할인된 가격으로 제공되어 방대한 코퍼스 규모에서 LLM 분류를 실현할 수 있었습니다.

전체 코퍼스 규모의 신뢰 및 안전

Scribd, Inc.는 Scribd, Slideshare, Everand, Fable이라는 네 가지의 차별화된 제품을 운영하는 모회사입니다. Scribd와 Slideshare에서 사용자가 업로드한 수억 개의 PDF, 프레젠테이션, 문서는 사람들이 정보를 찾고, 이해를 높이고, 프로젝트를 완료하는 데 도움이 됩니다. 규모가 큰 만큼 책임도 따릅니다. Scribd는 접근성과 커뮤니티 보호 사이의 균형을 맞추기 위해 노력합니다. 또한 플랫폼의 콘텐츠가 커뮤니티 규칙을 준수하도록 인적 검토와 자동화된 방식을 적절히 병행하여 최선의 검토 과정을 거치고 있습니다. 코퍼스가 계속 방대해지고 기술이 진화함에 따라, 이러한 과제를 해결하기 위해 훨씬 더 많은 리소스가 요구되고 있습니다.

문서를 이해하려면 문맥에 따라 텍스트와 이미지를 함께 읽어야 합니다. 분류는 가능한 모든 사용 사례와 언어, 가능한 모든 컨텍스트에서 작동해야 합니다. 이 모든 상황에 일관되게 적용할 수 있는 단일 솔루션은 존재하지 않습니다. 또한 각 정책 영역은 전통적으로 자체적인 전용 감지 모델을 필요로 했습니다. 이는 수년간의 사내 엔지니어링 노력을 들이거나, 4억 개의 문서 백필 작업에 드는 비용을 감당하기 어려운 외부 업체 솔루션을 사용해야 함을 의미했습니다. 팀은 여러 기성 운영 도구와 개방형 모델을 검토했으나, 그 어떤 솔루션도 Scribd의 방대한 규모에서 요구되는 품질 수준을 충족하지 못했습니다.

“이 문제는 아주 오랫동안 해결하기 위해 매달려 온, 정말이지 쉽지 않은 과제였습니다. 콘텐츠 카테고리마다 작동 방식이 달라, 지금까지는 각 카테고리에 맞는 전문 솔루션이 필요했습니다. Gemini는 이 모든 복잡한 과정을 단 하나의 모델, 하나의 프롬프트, 하나의 파이프라인으로 단순화했습니다.” – 사친 세바스찬, Scribd, Inc. 선임 엔지니어링 관리자

Gemini를 선택해야 하는 이유: PDF를 기본 입력으로 지원

Gemini가 Scribd의 코퍼스를 실제 형태 그대로인 PDF로 처리한다는 사실을 깨달은 것이 전환점이 되었습니다. Gemini는 PDF 입력을 기본적으로 지원하며 각 페이지를 텍스트와 이미지로 동시에 인식합니다. 덕분에 단일 멀티모달 모델만으로도 별도의 OCR 파이프라인, 페이지 렌더링 또는 스크린샷 인프라를 구축할 필요 없이, 텍스트가 빽빽한 문서부터 이미지가 중심인 프레젠테이션까지 모든 콘텐츠를 평가할 수 있습니다. Gemini는 각 PDF 페이지를 고정되고 예측 가능한 토큰 수로 처리하기 때문에, 120억 페이지에 달하는 방대한 양에서도 비용이 정비례하여 늘어나며 저렴하게 유지됩니다.

모델 제품군과 버전을 벤치마킹한 결과, 팀은 Gemini 2.5 Flash Lite를 분류 작업의 주력 모델로 선택하고, Gemini 2.5 Pro를 LLM 평가자로 사용하여 코퍼스 전체에 대해 2차 일관성 검사를 수행하여 출력 품질을 검증했습니다. 팀의 자체 평가 결과, Gemini의 멀티모달 이해 능력은 기존의 텍스트 전용 검토 엔드포인트가 번번이 놓치곤 했던 시각적 정책 위반 신호까지 정확하게 포착해 냈습니다.

“Gemini만의 독보적인 강점은 콘텐츠를 본래의 형식 그대로 받아들인다는 점입니다. PDF의 텍스트와 레이아웃, 이미지를 있는 그대로 직접 읽어 들입니다. 코퍼스의 99% 이상이 사이트에 게시된 형태 그대로, 어떠한 사전 처리도 거치지 않고 정확하게 입력되었습니다.” – 사친 세바스찬, Scribd, Inc. 선임 엔지니어링 관리자

전체 코퍼스를 믿고 맡길 수 있을 만큼 간편한 일괄 예측

실행 모델은 의도적으로 단순하게 설계되었습니다. 문서는 Cloud Storage에 스테이징된 후 Gemini Enterprise 일괄 예측으로 전달되었으며, 그 결과는 후속 분석을 위해 팀의 데이터 플랫폼으로 자연스럽게 통합되었습니다. 운영할 서빙 인프라도, 작성할 비율 제한 로직도, 따로 관리할 GPU 용량도 없었습니다.

대화형 요금보다 50% 저렴한 일괄 가격 책정 덕분에 코퍼스 규모에서 경제성을 확보할 수 있었습니다. 이후 팀은 Gemini Enterprise의 암시적 프리픽스 캐싱을 추가하고 정적 정책 텍스트가 캐시에 도달하도록 프롬프트를 재구성하여 분류 품질의 손실 없이 효율성을 더욱 높였습니다.

처리량으로 증명된 파트너십

4억 개의 문서를 처리하는 것은 결국 처리량의 문제이며, 이 부분에서 Google Cloud와의 파트너십이 가장 중요했습니다. Scribd팀은 Google Cloud 엔지니어링 및 제품팀과 직접 협력하여 백필을 계획하고, 리전 전략에 대한 자문을 구하는 한편, 출시 전에 충분한 용량을 확보할 수 있도록 만전을 기했습니다.

백필 작업이 본격화됨에 따라 Google Cloud는 팀과 긴밀히 협력하여 프로젝트 요구사항에 맞춰 처리량을 확장했습니다. 그 효과는 극적이었습니다. 일괄 작업이 예상보다 훨씬 빠르게 완료되기 시작했고, 실행 과정 대부분에서 Gemini Enterprise는 병목 현상을 일으키지 않았습니다. 병목 현상은 오히려 Scribd 자체의 업스트림 파이프라인에서 발생했습니다.

“Google Cloud는 단순히 지원 티켓에 답변을 제공하는 수준에 머물지 않았습니다. Google은 백필 작업에서 우리와 긴밀히 협력했으며, 어떤 구간에서는 Gemini Enterprise가 우리 시스템에서 데이터를 생성하는 속도보다 더 빠르게 작업을 처리하기도 했습니다. 기분 좋은 고민이 아닐 수 없습니다.” – 사친 세바스찬, Scribd, Inc. 선임 엔지니어링 관리자

다음 단계

이제 백필 작업은 상시 운영 프로그램의 근간이 되었습니다. 새로 업로드되는 콘텐츠가 동일한 Gemini 분류 파이프라인을 통해 처리되면서, 코퍼스를 주기적으로 정리하는 수준을 넘어 실시간으로 끊임없이 평가하는 체계를 갖추게 되었습니다. Cloud Storage의 PDF, Gemini 일괄 예측, 레이크하우스의 결과로 이어지는 패턴이 운영상 매우 간단하다는 것이 입증되었기 때문에, 팀은 이 패턴을 플랫폼 전반에서 점점 더 많은 콘텐츠 이해 워크로드에 적용하고 있습니다.

“이 프로젝트를 계기로 로드맵을 바라보는 관점이 완전히 달라졌습니다. 여러 팀이 수년에 걸쳐 노력해야 할 것으로 분류했던 작업이 이제는 프롬프트 하나와 일괄 파이프라인, 그리고 몇 주간의 런타임만으로 가능해졌습니다.” – 사친 세바스찬, Scribd, Inc. 선임 엔지니어링 관리자

_{본 프로젝트는 Google Cloud와 Scribd의 협업을 통해 진행되었습니다. 프로젝트를 진행하는 동안 지원해 주신 모든 분께 감사의 말씀을 전합니다.}

_{Scribd 엔지니어링: 아니시 쿠마르, 지니 램, 제임스 왓킨스, 히마 알라디}
_{Scribd 응용 연구: 라파엘 페드로사 라세르다 데 멜로, 카라 킬로, 에릭 창}
_{Scribd 제품: 김세윤, 니콜 폴스}
_{Google Cloud AI 일괄 추론팀: 제임스 리우, 디그비제이 싱, 웨이충 왕, 얀 왕, 쿤 시}
_{Google Cloud 고객 엔지니어: 제니퍼 리앙}

조정의 미래: Google Cloud에서 Airflow 3로 전환한 Pine59의 여정

Wed, 30 Sep 2026 13:00:00 +0000

대규모 데이터 파이프라인을 운영하려면 워크로드가 커짐에 따라 원활하게 확장되는 조정 레이어가 필요합니다. 파이프라인에서 매일 수백만 개의 복잡한 데이터 포인트를 처리하여 예측 모델에 공급하는 경우 기술 스택을 최신 상태로 유지하는 기술은 전략적 필수 요소입니다.

Pine59에서는 시간, 분기 등 다양한 주기로 분석 측정항목을 생성하는 데이터 파이프라인을 통해 위치 인텔리전스 데이터를 제공합니다. 이 기업의 데이터 집약적인 측정항목 중 하나인 일일 오프라인 매장 방문수의 경우 단일 작업으로 최대 1,400만 개의 고유 위치에 대한 데이터를 계산합니다. 이 방대한 양을 처리하기 위해 Pine59는 시스템을 전적으로 Google Cloud에서 실행합니다. 번거로운 작업은 BigQuery에 맡기고 Apache Airflow 3을 실행하는 Managed Service for Apache Airflow(이전 명칭: Cloud Composer)에서 모든 작업을 조정합니다.

기업의 데이터 볼륨과 머신러닝 워크로드 수가 증가함에 따라 Pine59는 수백 개의 방향성 비순환 그래프(DAG)가 포함된 모노레포를 현대화하기로 결정했습니다. 이 같은 전환을 통해 Pine59의 MLOps 기능, 개발자 워크플로, 파이프라인 속도가 어떻게 개선되었는지 살펴보겠습니다.

성장을 위한 선제적 현대화

Pine59는 오랫동안 여러 프로젝트의 코드와 도구가 포함된 공유 모노레포를 사용하여 측정항목 프로덕션 파이프라인을 실행해 왔습니다. 이 기업에서는 인프라의 미래를 고려하여 데이터 파이프라인의 실행 속도와 안정성을 높이고자 했습니다.

그래서 Airflow 3를 실행하는 새로운 Managed Airflow(3세대) 아키텍처를 대상으로 프로덕션 워크로드의 스트레스 테스트를 수행하기로 결정했습니다. 초기 결과는 명확했습니다. 3세대 환경은 즉각적이고 상당한 처리 속도, 작업 스케줄링, 전반적인 안정성의 개선을 가져왔습니다. 성능 향상의 가능성을 확인한 Pine59는 새로운 환경으로의 전면적인 전환을 시작했습니다.

고급 MLOps 조정

Pine59의 파이프라인은 데이터를 이동하는 데 그치지 않고 복잡한 ML 모델까지 구동합니다. 따라서 마이그레이션의 핵심은 ML 추론 워크로드의 조정을 최적화하는 것이었습니다.

이전에는 이러한 작업에 표준 Kubernetes 연산자를 사용했습니다. 이 기업의 엔지니어링팀은 고도로 최적화되고 추상화된 인프라 레이어를 특징으로 하는 Managed Airflow(3세대)로 전환하여 MLOps 아키텍처를 개선했습니다. 이를 위해 모델 추론에 특히 최적화된 전용 Google Kubernetes Engine(GKE) 클러스터를 설정하여 Pine59 파이프라인에 통합했습니다.

조정과 대규모 ML 실행 컴퓨팅을 명확하게 분리함으로써 데이터 처리와 모델 추론을 효율적으로 실행할 수 있게 되었습니다. 이는 Managed Airflow가 엔터프라이즈 MLOps를 위한 복원력과 확장성을 갖춘 기반임을 보여주는 사례입니다.

커스텀 확장성을 통한 개발자 지원

인프라가 개선되었음은 물론 Airflow 3의 크게 개선된 개발자 워크플로와 사용자 인터페이스도 즉시 활용할 수 있었습니다. 실제로 수백 개의 상호 연결된 DAG를 관리하려면 뛰어난 모니터링 가능성이 필요한데, Pine59는 Airflow 3의 플러그인 작성 시스템이 사용하기 매우 쉽다는 것을 알게 된 후

내부 개발자 속도를 개선하기 위해 새로운 Airflow UI에 직접 통합되는 여러 커스텀 플러그인을 빠르게 빌드했습니다.

BigQuery 자동 링크화: Airflow 로그 및 XCom 탭 내에서 내부 BigQuery 테이블 참조를 자동으로 감지하고 BigQuery Studio에 대한 직접 링크를 동적으로 생성하여 더 빠르게 디버깅할 수 있는 도구입니다(공개 GitHub gist로 제공).
DAG 실행 구성 검색: DAG 개요 페이지에 바로 추가되는 커스텀 검색 양식입니다. 이를 사용하면 Pine59 엔지니어가 DAG 실행 페이로드(구성) 내에서 특정 키-값 쌍을 쿼리하고 일치하는 실행을 즉시 표시할 수 있어 문제 해결 시간이 대폭 단축됩니다.

또한 모노레포 내에 호환성 Shim 레이어도 배포했습니다. 이 'compat' 모듈은 Airflow 버전 간의 로직을 동적으로 추상화하여 버전 간 연산자 마이그레이션을 간소화합니다.

더 빠르고 안정적인 파이프라인

Pine59는 Airflow 3를 사용하는 Managed Airflow(3세대)로 마이그레이션하여 정량화할 수 있는 명확한 결과를 얻었습니다.

가장 중요한 개선사항은 DAG 실행 속도였습니다. 이전 설정에서는 처리량이 급증할 때 작업이 큐에 추가된 상태로 멈추는 경우가 많았습니다. 3세대에서는 큐 지연 시간이 크게 줄어들어 작업 실행이 거의 즉시 시작됩니다.

아래에서 Airflow 2.11을 사용하는 Managed Airflow(2세대)와 Airflow 3.1을 사용하는 Managed Airflow(3세대)에서 동일한 DAG를 300회 이상 실행하여 합산한 '큐에 추가됨' 및 '실행 중'의 총 시간을 비교해 보세요. 큐에 추가됨 시간의 차이가 상당함을 알 수 있습니다.

전환 과정에서 내부 DAG 최적화까지 실행한 결과 성능도 크게 향상되었습니다. 예를 들어 이전에는 일일 오프라인 매장 방문수 파이프라인을 완료하는 데 거의 38분이 걸렸습니다. 새 인스턴스에서는 동일한 워크로드를 처리하는 데 26분도 채 걸리지 않아 처리 시간이 약 32% 단축됩니다.

현재 Pine59는 새로운 Managed Airflow(3세대) 인스턴스에서 모든 프로덕션 워크로드를 처리하고 있습니다. 차세대 조정으로 전환함으로써 이 기업은 MLOps 기능을 개선하고 개발자에게 더 나은 도구를 제공하며 미래의 워크로드를 위한 더 빠르고 복원력 있는 기반을 구축했습니다.

엔지니어링팀이 가치를 제공하기보다 인프라 관리에 더 많은 시간을 할애하고 있다면 전환을 고려해 보시기 바랍니다. 오늘 바로 이러한 전환이 서버 유지보수에서 벗어나 데이터 및 AI 파이프라인의 미래를 구축하는 데 어떤 도움이 되는지 알아보세요.

^{이 게시물을 작성하는 데 도움을 주신 Alexandre Crespo-Perez에게 감사의 말을 전합니다.}

Orange가 FinOps 책임감을 고취한 방법과 에이전트가 다음 단계인 이유

Sun, 27 Sep 2026 22:00:00 +0000

프랑스에 본사를 둔 선도적인 다국적 통신 제공업체인 Orange에는 엔지니어링팀이 배포 백로그를 잠시 접어두고 하루 종일 함께 클라우드 지출을 정리하는 날이 있습니다. 리더보드도 있고, 상품도 걸려 있습니다. 경험 많은 실무자가 신입을 지도하므로 일하면서 배웁니다. 하루가 끝날 무렵이면 스폰서는 그 결과를 확인할 수 있습니다.

Orange는 이를 FinOps Clean Days라고 부릅니다. 게임화된 해커톤과 함께 이러한 활동을 통해 100여 명의 구성원으로 이루어진 FinOps 커뮤니티는 조직 내에서 70점이 넘는 순 추천 고객 지수(NPS)를 달성했습니다.

이러한 수치는 업계 전반이 직면한 과제를 보여줍니다. 최근 Finops의 현 상황(The State of Finops) 보고서에 따르면 엔지니어들이 실제로 행동에 나서도록 유도하는 것이 조직이 직면한 주요 과제 중 하나입니다. 인식에서 행동으로 나아가기 위해서는 FinOps 책임감을 고취하고 팀이 진정으로 관심을 갖도록 하는 방법을 찾아야 합니다.

즉, FinOps는 비즈니스 변화의 문제입니다. 그리고 비즈니스 변화 문제에는 이미 알려진 해결책이 있습니다. Orange의 FinOps 책임자인 카미유 마리니와 인터뷰를 통해 Orange가 이러한 장애물을 극복하고 AI 도입과 ROI를 가속화한 방법과 다른 조직이 동일한 과정을 따를 수 있는 방법을 자세히 알아보았습니다.

Clean Days가 효과적인 이유

Orange는 FinOps팀을 신설한 이래 두 가지 원칙을 고수해 왔습니다. 첫째, 클라우드 FinOps는 공동 책임이며 프로젝트의 모든 이해관계자가 각자의 방식으로 참여합니다. 그리고 이러한 공동 책임을 실현하는 유일한 길은 소통과 신중한 변화 노력을 통해서만 가능합니다.

마리니는 “FinOps 관행을 위해 조직 전체의 공동 책임이라는 개념을 강조했습니다.”라고 말합니다. “이는 우리가 클라우드 보안에 접근하는 방식과 매우 유사합니다. 책임감 있고 실질적인 성과를 내는 AI 지출과 사용을 달성하려면 프로젝트의 모든 이해관계자가 각자의 방식으로 FinOps에 참여해야 한다는 점을 팀에 이해시켜야 했습니다.”

이러한 원칙에 따라 Orange는 Google Cloud 컨설팅의 지원을 받아 FinOps 실무자 커뮤니티를 만들었습니다. 팀은 표준화된 커뮤니케이션 채널을 통해 이를 운영함으로써 방법론이 중앙 그룹을 넘어 널리 확산되도록 하고, 회의 내용을 실행 가능한 수준으로 유지하고, 최적화 및 결제 변경사항을 공유하여 매 세션마다 실질적인 가치를 제공했습니다.

Clean Days는 애자일팀이 실제로 어떻게 운영되는지에 대한 냉철한 분석에서 비롯되었습니다. 배포가 지속적으로 실행되는 애자일 환경에서는 최적화 작업이 스프린트보다 우선시되는 경우가 거의 없습니다. 게재 우선순위, 백로그, 일상 업무가 가용 시간을 먼저 차지합니다. 그래서 Orange는 업무 방해 없이 집중할 수 있는 시간을 별도로 확보하고, 협업을 유도하고, 즐겁게 참여할 수 있는 환경을 조성했습니다

McKinsey가 제시한 변화를 위한 4가지 구성요소는 이러한 접근 방식이 효과적인 이유를 설명합니다. 이 프레임워크에 따르면 대규모 조직 변화의 성공을 위해서는 다음 4가지 영역에 걸친 조치가 필요합니다.

확신과 이해: '나에게 기대되는 바를 알고 있으며 이에 동의합니다.'
공식 메커니즘: '구조, 프로세스, 시스템이 변화를 뒷받침합니다.'
역할 모델링: '리더와 동료들의 행동이 달라진 것을 볼 수 있습니다.'
재능과 기술: '새로운 방식으로 행동할 수 있는 기술과 기회가 있습니다.'

Orange의 사례를 이 요소들에 대입해 보면 그 패턴이 명확히 드러납니다. 게임화와 보상은 엔지니어들이 본받을 만한 동료의 모습을 제시합니다. 리더보드는 새로운 행동 방식을 가시화하며, 스폰서는 즉각적인 성과를 직접 확인할 수 있습니다. 숙련된 실무자가 초보자를 지도함으로써 커뮤니티 자체를 통해 역량과 기술을 함양할 수 있습니다. 최적화 및 결제 변경사항을 공유하는 정기 세션은 자금이 어디에 쓰이는지 파악함으로써 얻을 수 있는 확신을 심어줍니다.

변화의 4가지 구성요소에 매핑된 FinOps 활동과 AI 에이전트가 이를 강화할 수 있는 지점

100명을 넘어서면 어떤 일이 벌어질까요?

100명의 적극적인 구성원으로 이루어진 커뮤니티를 구축하는 것은 큰 성과입니다. 하지만 수천 명의 엔지니어가 있는 조직에서는 중앙 FinOps팀이 모든 구성원에게 직접 다가갈 수 없습니다. 리더가 고민해야 할 사항은 Orange와 같은 커뮤니티가 만들어내는 인식, 공동 소유권, 행동 습관을 FinOps팀이 직접 만날 수 없는 구성원들에게까지 어떻게 확대해 나갈 것인가 하는 것입니다.

바로 이 지점에서 AI 에이전트가 두 가지 핵심 이점을 통해 FinOps팀의 역량을 확장합니다. AI 에이전트가 이전에는 사람이 수행해야 했던 복잡하고 시간이 많이 걸리는 활동을 처리하고, 비즈니스 전반에서 개인의 FinOps와 관련된 마찰을 줄여줍니다.

팀이 이를 도입하도록 하려면 높은 인지 부하, 불분명한 책임 소재, 상충되는 우선순위에서 비롯되는 조직 고유의 문제점을 해결하는 전략이 필요합니다. 먼저 FinOps 수명 주기에서 참여도가 떨어지는 지점을 파악해야 합니다.

인식 격차: 팀이 지출이 미치는 영향을 정확히 파악하지 못하는 경우 인사이트 에이전트가 실시간 비용 데이터를 일상적인 도구로 푸시할 수 있습니다.
처리 능력 격차: 엔지니어가 백로그로 인해 너무 바쁜 경우 해결 에이전트가 신속하게 성과를 낼 수 있는 부분을 파악하고 이를 병합 준비가 된 코드 변경사항으로 제시할 수 있습니다.
복잡성 격차: 보고가 수동 작업처럼 느껴진다면 조정 에이전트가 데이터를 수집하고 프로세스를 간소화할 수 있습니다.

신뢰를 바탕으로 시작하고 자율성 더하기

합리적인 접근 방식은 순차적으로 진행됩니다. 먼저 Orange의 사례처럼 커뮤니티 관행을 정립합니다. 그런 다음 정보를 제공하고 제안하는 읽기 전용 에이전트를 도입합니다. 이러한 에이전트가 커뮤니티 전반에 정착된 후에야 비로소 변경사항을 실행하는 에이전트를 빌드해야 합니다. 직접 실행에는 운영상의 위험이 따르므로 신중하게 관리해야 합니다. 하지만 큰 성과를 거둘 수 있는 영역이기도 합니다.

빌드 방식은 누가 빌드하느냐에 따라 달라집니다. 최소한의 코드로 빠르게 배포하려는 팀을 위해 Gemini Enterprise 앱은 에이전트를 생성할 수 있는 노 코드(no-code) 환경을 제공합니다. 세부적인 제어가 필요한 개발자를 위해 Gemini Enterprise Agent Platform(이전 명칭: Vertex AI)은 에이전트 개발 키트(ADK)와 같은 프레임워크로 빌드된 에이전트를 실행하고 제어할 수 있는 고급 도구를 제공합니다.

Cloud FinOps는 중앙 집중식 보고를 넘어 업무가 수행되는 현장에서 직접 조치를 취하는 방향으로 나아가고 있습니다. 이를 실현하는 조직들은 먼저 문화를 정립한 후 에이전트를 활용하여 단일 팀의 역량을 뛰어넘는 수준으로 그 문화를 확산시킵니다.

Orange의 성과는 커뮤니티 활동을 통해 얻은 결과물입니다. 이러한 기반을 구축하는 것이 가장 먼저 따라야 할 사항입니다. 이를 확장할 준비가 되면 Google Cloud 컨설팅의 도움을 받아 커뮤니티 관행을 정립하고 Gemini Enterprise 앱을 활용하여 간편하게 팀원들에게 첫 번째 읽기 전용 에이전트를 제공할 수 있습니다.

SeaVerse, GKE 에이전트 샌드박스로 인프라 비용 60% 절감

Sun, 27 Sep 2026 22:00:00 +0000

편집자 주: 오늘은 SeaArt 산하의 게임 스타트업인 SeaVerse의 이야기를 들어보겠습니다. SeaVerse는 사용자가 가벼운 게임, 캐릭터 채팅, 대화형 앱을 실행하거나 프롬프트를 통해 자신만의 경험을 직접 만들 수 있는 플레이 가능한 AI 경험을 위한 플랫폼을 구축하고 있습니다. 이러한 창작 루프를 지원하기 위해 SeaVerse에는 강력한 격리, 짧은 지연 시간, 더 나은 관측 가능성, 더 유연한 비용 구조를 갖춘 동적인 멀티 테넌트 샌드박스 워크로드를 실행할 수 있는 인프라가 필요했습니다. Google Kubernetes Engine(GKE)과 GKE Agent Sandbox는 SeaVerse에 이러한 AI 워크로드를 실행할 수 있는 관리형 기반을 제공하여 팀이 인프라 비용을 최대 60%까지 절감하는 동시에 크리에이터가 아이디어를 실제 플레이 가능한 경험으로 구현하는 데 걸리는 시간을 단축할 수 있도록 지원했습니다. 자세한 내용을 알아보려면 계속 읽어보세요.

AI가 놀이터라면 어떨까요? 플레이 가능한 AI 경험을 위한 창작 중심 플랫폼인 SeaVerse에 오신 것을 환영합니다. 이곳에서 AI 창작물은 뱀이 따라갈 길을 그리는 것처럼 평화로울 수도 있고, 음악이 배경으로 흐르는 졸라맨 시뮬레이션처럼 혼란스러울 수도 있습니다. 가벼운 게임을 즐기러 오는 사람도 있고, AI 캐릭터와 채팅하거나, 대화형 앱을 사용해 보거나, 시각적 패턴을 만들거나, 만든 것을 공유하거나, 아이디어를 재구성해 새로운 것을 만들려는 사람도 있습니다.

SeaVerse는 모든 경험이 즉각적이고 공유하기 쉬워야 한다는 단순한 약속을 바탕으로 구축되었습니다. 크리에이터는 기존의 코딩 워크플로 없이도 일상 언어로 아이디어를 설명하고 결과를 다듬은 후 순식간에 게시할 수 있어야 합니다.

이러한 단순성을 실현하려면 강력한 인프라가 필요합니다. 사용자가 만드는 모든 창작물은 생성, 실행, 미리보기, 디버그, 게시, 리믹스라는 동일한 과정을 거칩니다. 이 과정 중 어느 한 부분이라도 느리거나 불안정하거나 제대로 격리되지 않으면 사용자는 즉시 그 영향을 느끼게 됩니다. 바로 이러한 이유로 GKE와 GKE 에이전트 샌드박스를 선택했습니다.

즉각적인 상호작용을 위한 인프라 과제

사용자에게는 간편해 보이지만, 실제로는 그렇지 않습니다. SeaVerse의 모든 창작물은 별개의 워크로드로 실행되며 첫 번째 상호작용부터 안정적으로 작동해야 합니다.

각 워크로드가 자체 환경에서 실행되기 때문에 사용자, 창작물, 샌드박스 간에 명확한 보안 경계가 필요했습니다. 하지만 지나치게 엄격한 격리는 보호하려는 창의적인 작업 흐름을 저해할 수 있으며, 문제가 발생했을 때 진단하는 데 비용이 많이 들었습니다. 엔지니어들은 환경 내부에서 무슨 일이 일어나고 있는지 거의 파악하지 못한 채 실행 체인의 여러 부분에서 문제를 추적해야 했습니다.

기존 샌드박스 접근 방식을 살펴보았지만, 멀티 테넌트 환경 전반에서 빠른 진단을 지원하려면 더 심층적인 커널 수준의 격리와 대규모 네이티브 관측 가능성이 필요했습니다. 뭔가 변화가 필요했습니다.

GKE 및 GKE 에이전트 샌드박스 기반의 빌드

엔지니어링팀을 클러스터 유지보수팀으로 전환하지 않고도 Kubernetes를 안정적이고 안전하게 운영할 수 있는 방법이 필요했기 때문에 GKE를 선택했습니다. GKE는 우리가 필요로 했던 검증된 생태계와 운영 도구를 제공하여 인프라 관리보다는 플랫폼 구축에 집중할 수 있도록 지원했습니다.

에이전트 코드 실행 및 컴퓨터 사용을 위해 설계된 Kubernetes 프리미티브인 GKE 에이전트 샌드박스는 강력한 격리에 대한 요구사항을 충족하여 생성 경험을 저해하지 않으면서 강력한 보안 경계를 적용했습니다. Kata Containers+Cloudhypervisor(microVM)와 함께 GKE 에이전트 샌드박스를 활용하여 멀티 클라우드 유연성과 강력한 보안의 완벽한 균형을 달성하고, microVM과 gVisor 간에 격리 런타임을 전환할 수 있는 옵션을 통해 AI 샌드박스를 안전하게 실행하고 있습니다. GKE는 100만 개 이상의 샌드박스를 지원한다는 장기적 비전을 실현하기 위해 필요한 확장성을 제공합니다. gVisor를 기반으로 빌드된 이 기능은 Kubernetes 조정 모델을 유지하면서 동적 샌드박스 워크로드에 커널 수준 격리를 제공하므로 클러스터의 나머지 부분과 동일한 스케줄링, 모니터링, 작업을 통해 관리할 수 있습니다.

SeaVerse를 사용하면 단일 프롬프트만으로 대화형 환경을 생성할 수 있습니다. 경험이 생성되면 GKE Agent Sandbox는 미리보기, 미세 조정, 게시를 준비하는 데 필요한 실행, 테스트, 통합, 검증 단계를 지원합니다. 정식 버전에서는 클러스터당 초당 최대 300개의 샌드박스를 할당할 수 있으며, 할당의 90%가 200밀리초 이내에 완료됩니다. GKE와 GKE Agent Sandbox는 AI 생성 대화형 워크로드를 위한 안정적인 기반을 제공하여 팀이 제품 경험에 집중할 수 있도록 지원했습니다.

블랙박스에서 글라스박스로

GKE 에이전트 샌드박스가 도입되기 전에는 샌드박스 워크로드에 장애가 발생하면 원인을 파악하기가 어려웠습니다. 뭔가 잘못되었다는 사실은 알 수 있었지만, 그 원인을 파악하는 데 필요한 런타임 상태 정보, 측정항목 또는 오류 신호가 부족했습니다.

이제 Google Cloud의 기반 로깅 및 모니터링이 이러한 샌드박스 환경에 직접 적용되어 워크로드 동작을 더 명확하게 파악하고, 문제를 더 빠르게 해결하며, 멀티 테넌트 워크로드를 관리하기 위한 더 강력한 기반을 제공합니다.

이러한 가시성은 개발자뿐만 아니라 플랫폼 사용자에게도 중요합니다. 크리에이터는 로그, 클러스터 또는 조정 레이어를 볼 수 없습니다. 사용자는 경험이 빠르게 열리는지, 그림을 그리거나 클릭하거나 채팅하거나 공유할 때 반응하는지, 원활하게 계속 빌드할 수 있는지 확인합니다.

비용 절감으로 이어지는 유연성

GKE 에이전트 샌드박스는 비용에 대한 관점도 바꿔 놓았습니다. 이전에는 안전한 샌드박스 환경을 운영하려면 특정 서버 유형에 대한 종속성이 더 강해져 각 워크로드에 리소스를 정확하게 매칭하는 데 한계가 있었습니다. GKE 에이전트 샌드박스를 사용하면 적절한 규모의 클라우드 VM에서 안전하고 격리된 워크로드를 실행할 수 있습니다. 이를 통해 리소스 할당의 유연성이 향상되었으며 인프라 비용을 최대 60%까지 절감할 수 있었습니다.

이러한 유연성은 스토리지 분야로도 확대되었습니다. 모든 SeaVerse 창작물이 단일 세션에서 완성되는 것은 아닙니다. 크리에이터가 다시 돌아와 작품을 다듬고, 이전 아이디어를 발전시키고, 다른 사람을 초대해 자신의 작품을 리믹스하면서 시간이 지남에 따라 발전하는 작품도 있습니다. 기존 아키텍처는 이러한 복잡한 사용 사례에 필요한 영구 파일 시스템 기능을 지원하지 못했지만 이제는 그 한계가 사라졌습니다. 워크로드에 필요한 경우 영구 스토리지를 연결하는 동시에 멀티 테넌트 AI 환경에 필요한 격리 경계를 유지할 수 있습니다. 크리에이터는 빠르게 열 수 있을 뿐만 아니라, 시간이 지남에 따라 더 쉽게 다듬고, 다시 살펴보고, 발전시켜 나갈 수 있게 되었습니다.

다음 리믹스

진화하고 깊이를 더해갈 수 있는 창작물을 지원하는 것이 Google이 구축하고 있는 것의 핵심입니다. 플레이 가능한 AI의 발전은 아직 초기 단계에 있습니다. 플랫폼이 성장함에 따라 가장 중요한 요소인 안정성, 관측 가능성, 탄력적 확장, 비용 효율성을 지속적으로 강화해야 합니다. 이 모든 것은 빠르고, 안정적이며, 표현력이 풍부한 크리에이터 경험을 제공하기 위함입니다.

또한 더 스마트한 분석과 창작 지원을 위해 추가적인 Google Cloud 도구를 살펴보고 있습니다. Gemini와 에이전트 모델은 운영자와 크리에이터가 경험의 성과를 더 잘 이해하는 데 도움이 될 수 있습니다. BigQuery AI 및 ML 기능은 이탈 예측, LTV 및 ROI 예측, 사용자 세분화와 같은 사용 사례를 지원할 수 있습니다. Gemini Enterprise Agent Platform의 Imagen 및 Veo와 같은 멀티모달 도구는 소재 분석, 창의적 콘텐츠 생성, AI 대화형 콘텐츠 제작의 새로운 가능성을 열어줍니다.

Google의 목표는 AI 경험을 즉각적이고 표현력이 풍부하며 연결된 느낌을 주도록 만드는 것입니다. GKE와 GKE Agent Sandbox를 통해 차세대 플레이 가능한 AI를 위한 더욱 강력한 기반을 갖추게 되었습니다.

KDDI에서 빌드한 더 빠르고 안정적인 소비자용 RAG 앱 Buffmee

Mon, 14 Sep 2026 18:00:00 +0000

소비자용 생성형 AI 애플리케이션을 빌드할 때 다양한 미디어 유형에서 우수한 생성 품질과 빠른 응답 시간 사이의 균형을 유지하기 어려울 수 있습니다. 일본의 대형 통신사 KDDI는 소비자용 검색 증강 생성(RAG) 앱인 Buffmee를 개발하면서 이 과제에 정면으로 맞서 결국 문제를 해결했습니다.

Buffmee는 '성장을 돕는 AI'라는 개념을 기반으로 구축된 대화형 AI 서비스입니다. 도서, 잡지, 웹 미디어 등 100개 이상의 소스에 대답을 그라운딩하여 사용자가 정보를 검색하고, 핵심 사항을 요약하고, 맞춤형 학습 및 취미 관심분야를 탐색할 수 있도록 지원합니다. Buffmee에서는 출처를 인용하여 정보의 신뢰성에 대한 우려를 해소하므로 사용자가 안전하게 지식을 쌓을 수 있습니다.

앱 출시 과정에서 엔지니어팀은 도서와 잡지를 비롯한 다양한 독점 콘텐츠를 그라운딩해야 했습니다. 그러나 지연 시간 문제로 인해 응답 목표 시간을 충족하지 못했으며 할루시네이션 없는 결과를 보장할 수 있는 안정적인 방법도 필요했습니다.

Buffmee 앱 설명 및 이미지

조직에서 이러한 성능 목표를 달성하려면 AI 평가와 실시간 병목 현상 식별에 대한 체계적인 접근방식이 필요합니다. 그렇기 때문에 KDDI의 성공적인 애플리케이션 출시에 도움이 되었던 자동 평가 프레임워크와 성능 최적화 기법을 공유하고자 합니다.

결과는 고무적이었습니다. KDDI는 총 애플리케이션 응답 지연 시간을 38% 줄여 응답 성능 목표를 성공적으로 달성했습니다. TTFT도 약 18% 개선되었습니다.

"KDDI의 비전을 달성하려면 콘텐츠가 수집되는 즉시 작동 가능한 RAG 시스템으로 기능하는 플랫폼을 구축해야 했습니다. Google의 세심한 실무 지원 덕분에 이를 실현할 수 있었습니다. Google의 지원에 진심으로 감사드립니다." — Shunya Onoda, KDDI AI 제품 부서

이처럼 성능과 정확성이 개선된 Buffmee는 콘텐츠 제공업체를 위한 엄격한 신뢰성과 규정 준수를 유지하면서 고도로 개인화된 경험을 제공하여 사용자가 대화형 Q&A와 심층 분석을 통해 좋아하는 미디어를 안전하게 탐색할 수 있게 되었습니다.

이러한 성과를 어떻게 달성했는지 자세히 살펴보겠습니다.

다양한 콘텐츠에 대한 자동 평가 설정

기존의 수동 테스트는 엄청난 노력이 필요할 뿐만 아니라 대규모 콘텐츠 라이브러리를 수용할 만큼 확장하기 어렵습니다. 이 문제를 해결하기 위해 개발팀에서 Gemini Enterprise Agent Platform Evaluation Service를 사용하여 체계적인 AI 평가 프로세스를 설계했습니다.

LLM-as-a-Judge 및 Rule of Hundreds와 같은 자동화된 평가 프레임워크를 구현하여 노동 집약적인 수동 테스트를 데이터 기반 프로세스로 대체했습니다. 방대한 문서 코퍼스를 수집하고, 수백 개의 자동 평가 테스트를 구성하고, 사용 사례별 대답의 신뢰성을 측정하기 위한 포괄적인 벤치마크 데이터 세트를 구축했습니다. 그 결과, 그라운딩 점수를 25% 개선하여 정확성과 신뢰성이 우수한 출력을 제공할 수 있게 되었습니다.

KDDI의 자동 평가 루프: AI가 질문을 생성하고 대답을 채점하면 인간이 기준점을 보정하고 특이 사례 실패를 분석합니다.

에이전트 루프를 통한 병목 현상 식별 및 성능 최적화

응답 속도를 개선하기 위해 BigQuery 에이전트 분석과 에이전트 개발 키트(ADK) 로그 분석 에이전트를 구현했습니다. 실제 프로덕션 로그를 분석하여 스킬 분할과 프롬프트 비대화(특히 여러 페이지로 이루어진 매우 복잡한 시스템 프롬프트)가 첫 번째 토큰까지의 시간(TTFT)에 어떤 영향을 미치는지 시각화했습니다.

스킬의 인라인 통합을 포함하여 시스템 프롬프트를 최적화하고 하위 에이전트 라우팅도 검토했습니다. 이를 통해 대답의 정확성을 저해하지 않고도 실시간으로 딥 스택 병목 현상을 식별하고 해결할 수 있었습니다.

신뢰할 수 있는 평가를 위한 4가지 핵심 원칙

이러한 결과를 얻기 위해 팀에서는 네 가지 핵심 기술 관행을 구현했습니다.

이진 평가로 전환: 중요한 측정항목에 대해 모호한 1~5점 평가 대신 이진 '통과(1)/실패(0)' 체계를 선택적으로 도입하여 분산과 노이즈를 최소화하고 자동화 정확성을 개선했습니다.
전략적 콘텐츠 샘플링: 모든 문서를 일일이 평가하는 대신 파일 형식(웹 기사, EPUB, PDF, 정형 데이터)과 미디어 구성(텍스트 중심, 이미지 중심, 혼합)이라는 2차원 그리드로 전체 코퍼스를 분류했습니다. 이 난이도 그리드의 각 셀에서 대표 샘플을 선택하여 포괄적인 테스트 범위를 유지하면서 평가 워크로드를 75% 줄였습니다.
제품 판단에 기반한 기준점: 제품 소유자가 기본 도구 파라미터에만 의존하지 않고 무작위로 샘플링된 대답을 자동 점수와 함께 검토하여 보정하고 사용자 경험 측면에서 충분한 '출시 품질'을 설정했습니다.
대규모 프롬프트를 ADK 스킬로 모듈식 분할: 800줄이 넘는 대규모 시스템 프롬프트는 LLM 어텐션 드리프트와 지연 시간 저하를 유발할 수 있으므로, 프롬프트를 기능별로 에이전트 개발 키트(ADK) 스킬로 분할하여 필요한 로직만 동적으로 로드하여 응답 시간을 최적화했습니다.

시작하기

확장 가능하고 안정적인 생성형 AI 애플리케이션을 빌드하려면 자동화된 평가와 심층적인 성능 분석이 모두 필요합니다. 이러한 기법을 자체 애플리케이션에 적용하려면 다음 단계를 따르세요.

Gen AI Evaluation Service를 사용하여 품질을 체계적으로 측정합니다.
에이전트 개발 키트로 에이전트를 구조화하고 점진적 공개를 신중하게 적용합니다.
Agent Search로 에이전트를 그라운딩하고 검색 쿼리를 검사합니다.

Yahoo에서 Managed Service for Apache Spark의 가변형 VM으로 리소스를 최적화한 방법

Sun, 13 Sep 2026 18:00:00 +0000

수억 명의 사용자를 금융, 스포츠, 엔터테인먼트 플랫폼에 연결하는 글로벌 미디어 및 기술 기업인 Yahoo는 분석 워크로드를 지속적으로 빠르게 실행해야 하는 대규모 데이터 인프라를 운영하고 있습니다. 시간적 제약이 따르는 데이터 환경에서 고정된 가상 머신(VM) 구성에 의존하면 시스템의 유연성이 떨어집니다. 특정 머신 유형이 리전 내 용량 제한 문제에 직면하면 Managed Service for Apache Spark(이전 명칭: Dataproc)의 클러스터 프로비저닝이 지연되면서 중요한 데이터 파이프라인이 중단될 수 있습니다.

Yahoo는 Managed Service for Apache Spark 클러스터의 가변형 VM을 활용하여 허용 가능한 VM 유형의 우선순위 목록을 정의하는 방식으로 이러한 리소스 변동에 자동으로 대응합니다. 따라서 시스템은 리전 내 여러 영역을 동적으로 검색하고 수동 개입 없이 파이프라인 실행을 유지할 수 있습니다. 리전 전체에서 용량을 검색하려면 자동 영역 배치도 사용 설정해야 합니다.

이러한 최적화가 가능한 것은 온프레미스 Hadoop 및 빅데이터 환경을 바로 Google Cloud로 마이그레이션한 Yahoo의 광범위한 데이터 현대화 여정 덕분이었습니다. Yahoo는 레거시 워크로드를 이전하여 동적인 리소스 유연성을 갖추고 대규모 배치 및 스트리밍 분석을 실행할 수 있는 클라우드 기반을 구축했습니다.

이 게시물에서는 Managed Service for Apache Spark에서 가변형 VM 인스턴스의 우선순위를 구성하여 용량 제약을 자동으로 관리하고 파이프라인 실행을 유지하는 방법을 기술적인 관점에서 자세히 설명합니다.

정적 구성의 운영상 절충점

특정 영역에서 단일 고정 머신 유형으로 클러스터를 구성하면 리전 내 영역별 용량이 변동할 때 제약이 발생하여 클러스터 프로비저닝에 영향을 줄 수 있습니다. 가변형 구성을 사용하면 이처럼 용량 변동이 발생할 때 커스텀 재시도 로직이나 수동 개입으로 대응할 필요 없이 인프라가 자동으로 조정됩니다. 가변형 구성은 다양한 VM 유형을 수용하고 선택한 리전 내 여러 영역을 검색하여 프로비저닝을 간소화하며, 이를 통해 대규모 분석 워크로드를 더욱 효과적으로 지원합니다.

가변형 클러스터 구성을 위한 규칙

가변형 구성을 배포하려면 다음과 같이 서로 연결된 여러 설계 요소를 적절히 조정해야 합니다.

자동 영역 배치 사용 설정: Managed Spark가 전체 리전에서 사용 가능한 용량을 검색할 수 있도록 리전(--region=${REGION})이나 빈 영역 문자열(--zone="")을 전달해야 합니다.
코어 및 메모리 균형 유지: Managed Spark 클러스터에서 자동 확장을 사용하는 경우 가변형 목록에 포함된 모든 머신 유형은 서로 다른 VM 제품군에 속하더라도 코어 수와 메모리 크기가 비슷해야 합니다. 기본 작업자와 보조 작업자 간에 CPU 대 메모리 비율을 균일하게 유지하면 성능 저하를 방지할 수 있습니다. 가장 낮은 비율을 기준으로 실질적인 컨테이너 크기가 결정되기 때문입니다.
구성요소 속성 조정: Managed Spark는 VM 코어와 메모리를 기준으로 시스템 속성을 계산합니다. 서로 다른 머신 유형을 함께 사용하는 경우 예상되는 작업자 동작에 맞춰 YARN 및 Spark 리소스 할당을 유지하려면 속성을 명시적으로 재정의해야 할 수 있습니다.

가변형 VM이 대규모 워크로드를 지원하는 두 가지 방법

대규모 데이터 환경의 가변형 구성은 두 가지 방식으로 운영을 지원합니다.

클러스터 생성 성공률 개선: 선호하는 VM 유형의 가용 용량이 없더라도 Managed Spark가 우선순위 목록에서 다른 유형을 선택하므로 클러스터 생성에 실패하지 않고 프로비저닝을 중단 없이 지속합니다.
리전 리소스 활용도 향상: 자동 영역 배치는 리전 전체에서 가용 용량을 검색하므로 수요가 급증하는 시기에도 프로비저닝을 더욱 원활하게 처리할 수 있습니다.

gcloud 예시

code_block: <ListValue: [StructValue([('code', 'gcloud dataproc clusters create analytics-cluster \\\r\n --region=us-central1 \\\r\n --zone="" \\\r\n --num-workers=10 \\\r\n --master-instance-selection=\'{"machineTypes":["e2-standard-8"],"rank":0}\' \\\r\n --master-instance-selection=\'{"machineTypes":["n2-standard-8"],"rank":1}\' \\\r\n --worker-instance-selection=\'{"machineTypes":["e2-standard-8"],"rank":0}\' \\\r\n --worker-instance-selection=\'{"machineTypes":["n2-standard-8"],"rank":1}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f90f617bf50>)])]>

API 예시

`Dataproc` API의 `instanceFlexibilityPolicy` 필드를 사용하면 이 용량 정책을 자동화된 파이프라인이나 Managed Service for Apache Airflow DAG에 적용할 수도 있습니다.

code_block: <ListValue: [StructValue([('code', '{\r\n "projectId": "PROJECT_ID",\r\n "clusterName": "analytics-cluster",\r\n "config": {\r\n "gceClusterConfig": {\r\n "zoneUri": ""\r\n },\r\n "secondaryWorkerConfig": {\r\n "numInstances": 8,\r\n "instanceFlexibilityPolicy": {\r\n "instanceSelectionList": [\r\n {\r\n "machineTypes": ["n2-standard-8"],\r\n "rank": 0\r\n },\r\n {\r\n "machineTypes": ["e2-standard-8", "t2d-standard-8"],\r\n "rank": 1\r\n }\r\n ]\r\n }\r\n }\r\n }\r\n}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f90f68d7a10>)])]>

이 API 정책은 동일한 목표를 달성합니다. 즉, 선호하는 유형을 설정하고 유효한 대체 수단을 명시하며 Managed Spark가 자동화 스크립트를 중단하지 않고 리소스 제약 조건을 해결할 수 있도록 만드는 것입니다.

인프라 정책 수립

이처럼 대규모로 데이터를 관리하려면 하나의 고정된 머신 유형에 의존하기보다 명확한 리소스 정책을 표준화해야 합니다. 구성 표준에는 다음 사항을 포함하는 것이 좋습니다.

보조 작업자에 사용할 기본 및 대체 VM 제품군
가변형 프로비저닝을 지원하기 위한 기본 자동 영역 배치
자동 확장 사용 시 동일한 코어 및 메모리 구성
예측 가능한 컨테이너 크기 유지를 위한 모든 작업자 그룹의 일관된 CPU 대 메모리 비율
서로 다른 머신 계열에서도 일관된 런타임 동작을 보장하기 위한 명시적인 YARN 또는 Spark 속성 재정의
Spot 또는 탄력성이 높은 용량에서 실행되는 Spark 워크로드를 위한 셔플 안정성 보장 패턴

가변형 구성을 도입하면 인프라 리소스가 부족한 상황에서도 예측 가능한 대체 계획에 따라 대응하여 중요한 데이터 파이프라인을 계속 실행할 수 있습니다.

Yahoo의 도입 효과 및 성과

Yahoo는 Managed Service for Apache Spark에 가변형 VM을 구현하여 리전 내 용량 부족으로 발생하는 클러스터 프로비저닝 실패를 85% 줄였습니다. 이러한 가변형 구성을 통해 데이터 인프라가 용량 제약에 자동으로 대응하고 수동 개입 없이 리소스를 성공적으로 프로비저닝할 수 있습니다. 그 결과 Yahoo는 대규모 데이터 파이프라인 전반에서 워크로드를 지속적으로 실행하고 다운스트림 처리 지연을 방지할 수 있게 되었습니다.

"Yahoo의 대규모 데이터 분석을 관리하려면 복원력이 뛰어난 자동화된 인프라가 필요합니다. Managed Service for Apache Spark의 가변형 VM으로 전환하면서 접근방식이 완전히 바뀌었습니다. 이제 특정 머신 유형에 용량 제약이 발생하더라도 클러스터가 중단되는 대신 우선순위가 지정된 대체 옵션으로 자동 전환됩니다. 덕분에 프로비저닝 실패를 85% 줄이고 전 세계 미디어 플랫폼을 원활하게 운영하는 데 필수적인 안정성까지 확보하게 되었습니다." - 악샤이 자인, Yahoo! 선임 소프트웨어 개발 엔지니어

가변형 인프라의 전략적 이점

가변형 컴퓨팅 스택을 도입하면 운영 요구사항에 따라 적응하는 동적인 리소스 풀로 환경을 전환할 수 있습니다. 경직된 단일 머신 유형 구성에서 벗어나면 공급 상황이 변하더라도 워크로드에 필요한 컴퓨팅 리소스를 안정적으로 확보할 수 있습니다. 이러한 전환은 워크로드 가용성과 안정성을 극대화할 뿐만 아니라, 최신 VM 세대를 우선적으로 활용하면서도 구형 유형을 안정적인 대체 옵션으로 유지할 수 있게 하여 원활한 하드웨어 현대화를 지원합니다.

복원력이 뛰어난 데이터 파이프라인 구축

유동적인 컴퓨팅 전략으로 전환하면 리전별 리소스 상황이 변하더라도 중요한 분석 워크로드를 계속 실행할 수 있습니다. 다음과 같은 방법으로 지금 바로 인프라 최적화를 시작할 수 있습니다.

워크로드 점검: 특정 VM 제품군이나 영역에 밀접하게 결합된 애플리케이션을 파악하고 사용할 수 있는 대체 하드웨어 유형을 정리하세요.
리소스 정책 표준화: Managed Spark 가변형 VM 문서를 살펴보고 선호하는 VM 제품군과 대체 VM 제품군을 설정하세요.
재무 전략 조정: 워크로드가 대체 머신 유형으로 동적으로 전환될 때 가변형 약정 사용 할인(Flex CUD)을 활용하여 비용 예측 가능성을 유지하세요.
크레딧 신청: 신규 고객에게는 Managed Service for Apache Spark 및 기타 Google Cloud 제품을 무료로 사용해 볼 수 있는 $300의 크레딧이 제공됩니다.

BlackLine에서 VPC 서비스 제어로 경계 정책 인텔리전스를 간소화하는 방법

Mon, 07 Sep 2026 22:00:00 +0000

VPC 서비스 제어(VPC-SC)를 통해 네트워크 수준의 경계를 설정하면 데이터 무단 반출, 도용된 계정, 내부자 위협으로부터 클라우드 환경을 보호하는 데 큰 도움이 됩니다.

오늘 Google Cloud에서는 운영 간소화에 큰 도움이 되는 VPC-SC의 새로운 정책 인텔리전스 기능을 소개합니다. 최신 버전의 VPC-SC 위반 분석 도구 및 위반 대시보드를 활용하면 정책 관리와 문제 해결을 간소화하여 보안 경계를 그 어느 때보다 효율적이고 쉽게 관리하고 최적화할 수 있습니다.

BlackLine의 사고 대응 프로세스 간소화 방법

재무 운영 관리 분야의 선도 기업인 BlackLine에서는 엄격한 보안 경계를 유지하기 위해 VPC-SC 정책 인텔리전스 솔루션을 도입했습니다. Fortune 500 기업의 절반 이상이 선택한 BlackLine은 고객의 민감한 재무 데이터를 보호하는 데 Google Cloud의 포괄적인 관리형 서비스 제품군과 내장된 보안 기능을 활용하고 있습니다.

VPC 서비스 제어는 BlackLine에서 Google Cloud 환경의 예방적 규정 준수 및 보안 제어를 실현하는 데 핵심적인 역할을 합니다. BlackLine은 이를 통해 강력한 보안 경계를 구축함으로써 데이터 무단 반출 위험을 완화하고 보안 수준이 높은 환경과 낮은 환경을 명확하게 분리하여 관리하고 있습니다.

이러한 복잡한 경계를 관리하는 일은 지속적인 과정입니다. VPC 서비스 제어 위반 분석 도구는 승인된 액세스 수준과 인그레스 및 이그레스 정책을 통해 보안 경계를 조정함으로써, BlackLine의 클라우드 인프라 관리자가 비즈니스의 변화하는 API 연결 요구사항에 유연하게 대응할 수 있도록 지원합니다.

VPC-SC 위반 오류 메시지에 포함된 문제 해결 토큰이나 고유 ID만 있으면 실패한 API 요청과 관련된 보안 주체와 대상 리소스를 식별하고 해당 API 요청이 BlackLine의 서비스 경계를 위반한 원인과 경위를 설명하는 상세 보고서를 생성할 수 있습니다. 데이터 추출을 위한 Cloud Logging SQL 쿼리를 작성할 필요도 없습니다.

위반 세부정보 보고서가 제공하는 명확한 액세스 컨텍스트와 활용 가능한 분석 정보는 위반 문제를 협력하여 해결하는 데 매우 귀중한 토대가 됩니다. 이는 서비스 경계 문제의 평균 해결 시간(MTTR)을 대폭 단축함으로써 BlackLine이 고객에게 더욱 집중하고 고객을 위한 혁신을 지속할 수 있도록 지원합니다.

경계 운영 수명 주기 간소화

Google Cloud의 새로운 정책 인텔리전스 도구인 VPC-SC 위반 분석 도구와 위반 대시보드는 실시간 모니터링과 능동적인 사고 대응을 간소화합니다. 이러한 도구는 Google Cloud 콘솔에서 명확하고 활용 가능한 분석 정보를 제공합니다. 이를 통해 향상된 속도와 자동화를 바탕으로 최소 권한 경계를 자신 있게 적용하고 액세스 거부 문제를 신속하게 해결할 수 있습니다.

위반 대시보드는 Google Cloud 조직 전체에서 발생한 모든 서비스 경계 위반을 단일 제어 창에 집계하고 시각화합니다. 이를 통해 팀은 추세를 파악하고 액세스 거부 급증을 식별할 수 있으며, 특정 경계, 프로젝트 또는 ID를 기준으로 위반을 필터링한 결과를 공유할 수도 있습니다.

위반 분석 도구는 위반 조사를 간소화하여 Cloud Logging을 쿼리하고 세부정보를 수동으로 조합할 필요가 없습니다. 대시보드에서 문제 해결 토큰을 클릭하거나 고유한 거부 ID를 입력하면 분석 도구가 ID, 소스, 대상, 트리거된 VPC-SC 규칙을 파악하여 해당 요청이 차단된 이유를 설명하는 보고서를 생성합니다. 이를 통해 기존 정책 규칙을 수정할지, 새로 생성할지를 신속히 결정하여 조치를 취할 수 있으며 결과적으로 사고 해결 시간을 대폭 단축할 수 있습니다.

새로운 VPC 서비스 제어 정책 인텔리전스 도구는 단순한 자동 로그 분석을 넘어 위반 사항을 통합해 보여주고 조사에 필요한 활용 가능한 분석 정보를 제공합니다. 이를 통해 보안 경계 배포와 관리를 더욱 간소화하고 관련 위험도 낮출 수 있습니다.

배포부터 정책 미세 조정까지 VPC 서비스 제어 수명 주기를 간소화합니다.

새로운 VPC-SC 문제 해결 도구를 사용하면 다음 작업을 더욱 쉽게 수행할 수 있습니다.

새 경계 테스트(배포): 위반 대시보드를 활용하여 서비스 경계의 영향을 시각화하는 초기 드라이 런 단계를 통해 프로덕션 트래픽에 영향을 미치기 전에 적용 결과가 정확하고 예측 가능한지 미리 검증할 수 있습니다. 보안 주체, 서비스 경계, 시행 유형 등에 대해 사전 빌드된 컨텍스트 필터를 사용하여 위반 사항을 필터링해 추적하고 해결할 수 있습니다.
경계 거부 추적(모니터링): 위반 대시보드는 경계 상태를 통합하여 보여주므로 보안 운영팀이 동적 에이전트 기반 액세스 거부를 포함한 현황을 실시간으로 모니터링할 수 있습니다.
이벤트 분류(조사): 위반 분석 도구는 모든 위반에 대해 ID, 소스, 대상, 작업 내역을 제공합니다. IAM(ID 및 액세스 관리) 권한, 리소스 계층 구조, 컨텍스트 평가를 상호 참조하여 어떤 규칙이 트리거되었는지 식별하므로 수작업에 드는 노력을 크게 줄여줍니다.
규칙 수정(정책 미세 조정): 위반 분석 도구는 구성 파일을 검색하는 대신 위반을 VPC-SC 정책의 관련 행에 직접 매핑합니다. 이를 통해 수작업을 줄이면서 정책을 더 빠르게 업데이트할 수 있습니다.

VPC 서비스 제어 위반 대시보드는 상세 보고서를 통해 경계 액세스 조사에 즉시 착수할 수 있도록 지원합니다. 여기에 위반 분석 도구를 병행하면 조사 과정이 한층 더 간소화됩니다.

핵심 VPC-SC 작업: 간편한 경계 적용

새로운 문제 해결 기능은 강력한 경계를 설계, 적용, 관리하는 VPC 서비스 제어의 기본적인 간편성을 토대로 구축되었습니다.

테스트 실행 모드를 활용하면 중요한 비즈니스 워크플로를 중단하지 않고도, 실제 관찰된 트래픽을 바탕으로 정확하고 컨텍스트에 맞는 인그레스 및 이그레스 규칙을 구축할 수 있습니다. 이처럼 액세스 패턴을 검증한 후에는 데이터를 기반으로 확신을 가지고 전체 적용 단계로 넘어갈 수 있습니다. 또한 범위 지정 정책을 사용하면 관리를 프로젝트 수준 관리자에게 직접 위임할 수 있어 경계 유지관리를 더욱 효율적이고 간편하게 수행하는 동시에 워크로드와 가장 가까운 팀에 권한을 부여할 수 있습니다.

시작하기

VPC 서비스 제어로 데이터 보안을 간소화하세요. 새로운 위반 분석 도구 및 위반 대시보드를 사용하면 사고 조사에 소요되는 시간을 단축하고 더 많은 시간을 클라우드 이니셔티브를 안전하게 확장하는 데 투자할 수 있습니다. 데이터는 가장 소중한 자산입니다. 제어 기능을 효과적으로 적용하면서도 관리가 간편한 보안 경계로 데이터를 보호하세요.

자세한 내용은 문서에서 VPC-SC 위반 분석 도구 및 위반 대시보드를 확인하고 시작해 보세요.

Uber가 클라우드 마이그레이션을 차단 해제하면서 네트워크 안정성을 개선한 방법

Fri, 04 Sep 2026 06:00:00 +0000

Uber는 서비스를 제공하는 도시와 많은 공통점을 가지고 있습니다. 두 가지 모두 항상 변화하고 성장하며, 혼잡과 확산을 방지하기 위해 결과 트래픽을 신중하게 관리해야 합니다.

Uber는 확장되는 네트워크를 관리하기 위해 기술 전략을 지속적으로 발전시켜 왔으며, 이러한 신중한 계획과 끊임없는 발전 덕분에 플랫폼 전반의 애플리케이션 트래픽이 원활하게 실행될 수 있었습니다. 궁극적으로는 언제든 원활하게 작동하는 안정적인 대규모 플랫폼을 유지하는 것이 사용자 신뢰를 유지하는 데 핵심입니다.

이러한 노력의 중요한 솔루션 중 하나는 Cloud Interconnect의 Application Awareness입니다. 하이브리드 네트워크 전반에서 애플리케이션 우선순위를 지정할 수 있는 업계 최초의 도구인 Cloud Interconnect의 Application Awareness는 Uber가 잠재적인 네트워크 정체 이벤트 중에 비즈니스 연속성을 보장하기 위해 중요한 트래픽의 우선순위를 지정하는 데 도움이 되었습니다.

Uber는 Cloud Interconnect의 Application Awareness에 대한 초기 설계 파트너로 활동하면서 이 기능이 Uber의 글로벌 규모 운영 요구사항을 충족하도록 지원했습니다. 이러한 개선은 Uber의 일상적인 운영을 개선했을 뿐만 아니라 전환 중에 서비스 중단 위험이 적을 것이라는 확신을 주어 Google Cloud 마이그레이션을 추진할 수 있는 자신감을 심어주었습니다.

이 게시물에서는 Uber가 가장 필요로 했던 기능과 그 이유, Cloud Interconnect의 Application Awareness의 내부 작동 방식, 그리고 다른 조직에도 도움이 될 수 있는 방법을 설명합니다.

중요 트래픽 우선순위 지정

분산형, 하이브리드형 또는 멀티 클라우드 애플리케이션을 전 세계 규모로 마이그레이션할 때는 네트워크 안정성이 주요 관심사가 됩니다. 아무리 가치 있는 마이그레이션이라도 진행 중인 서비스를 중단시킨다면 그 가치가 떨어질 수 있습니다. Uber와 같은 조직의 경우 대규모 데이터 분석 워크로드(새로운 AI 사용 사례 포함)를 지원하기 위해 방대한 양의 데이터를 이동하면 네트워크 링크가 포화되어 중요한 애플리케이션 트래픽의 안정성 위험이 증가할 수 있습니다.

표준 클라우드 상호 연결 접근방식을 사용하면 기업은 일반적으로 극심한 인프라 요구사항을 충족하기 위해 간단한 대역폭 오버프로비저닝을 적용합니다. 하지만 오늘날의 하이브리드 클라우드 수요와 Uber와 같은 조직의 규모를 고려할 때, 피크 사용량을 위해 네트워크 용량을 과도하게 프로비저닝하는 것은 비용이 너무 많이 들고 신뢰할 수 없는 경우가 많습니다.

최첨단 AI 혁신을 통합하면 과도한 프로비저닝의 단점이 더욱 커집니다. Uber는 네트워크 정체 없이 대규모 데이터 전송을 처리하고 비즈니스 크리티컬 애플리케이션의 성능을 보호할 수 있는 시스템을 갖춰야 합니다.

트래픽 처리, 정체 응답, 지연 시간 관리, 비용 효율성이라는 4가지 주요 기능을 포함한 Cloud Interconnect의 애플리케이션 인식 기능을 활용하여 Uber는 최신 기술 스택에 필요한 네트워킹 최적화를 달성할 수 있었습니다.

비공개 프리뷰를 시작으로 Uber는 애리조나주 피닉스와 버지니아주 애쉬번의 Google Cloud Interconnect 배포를 시작으로 인프라 전반에 이 기능을 배포했습니다. Cloud Interconnect의 Application Awareness를 통해 Uber는 DSCP 마킹과 구성된 큐잉 프로필을 사용하여 덜 시간에 민감한 데이터보다 최종 사용자 애플리케이션 트래픽을 분류하고 우선순위를 지정할 수 있습니다.

다음 차트에서는 Cloud Interconnect의 Application Awareness의 4가지 주요 기능과 기존 접근방식과의 차이점, Uber와 같은 조직의 운영 연속성을 개선하는 데 어떻게 도움이 되는지 살펴봅니다.

기능	표준 Interconnect 솔루션	Cloud Interconnect의 애플리케이션 인식
트래픽 처리	모든 트래픽을 동일하게 취급 (선입선출)	6개의 고유한 트래픽 클래스로 분류된 트래픽
정체 응답	버스트 중에 우선순위가 높은 애플리케이션 트래픽이 삭제될 수 있음	엄격한 우선순위 또는 대역폭 공유 정책을 통해 비즈니스에 중요한 트래픽을 보호합니다.
지연 시간 관리	우선순위가 높은 애플리케이션의 예측 불가능한 지연 시간	시간에 민감한 워크로드에 대해 예측 가능하고 일관된 낮은 지연 시간
비용 효율성	피크를 흡수하기 위해 값비싼 과잉 프로비저닝이 필요함	효율적인 대역폭 사용 및 TCO 절감

Uber의 핵심 요점

Uber는 Cloud Interconnect에 Application Awareness를 배포하여 네트워크에서 비즈니스에 중요한 트래픽의 우선순위를 즉시 지정할 수 있게 되면서 비즈니스 가치를 실현했습니다. 이 과정에서 Uber는 유사한 하이브리드 클라우드 과제를 안고 있는 다른 기업이 복제할 수 있는 청사진을 만들었습니다. 이 청사진의 핵심 요소는 다음과 같습니다.

비즈니스 연속성 보장: Uber는 트래픽이 많은 주요 이벤트 중에 우선순위를 지정할 애플리케이션 트래픽을 실시간으로 결정할 수 있습니다. 즉, 계획된 이벤트와 계획되지 않은 이벤트 모두 극단적인 상황에서도 미션 크리티컬 애플리케이션이 계속 실행됩니다. Uber 경영진은 Cloud Interconnect의 Application Awareness가 글로벌 운영에 중요하다고 말합니다.
효율적인 대역폭 사용: Uber는 정체를 방지하기 위해 무작정 대역폭을 과도하게 프로비저닝하는 대신 애플리케이션 인식을 통해 예상되는 네트워크 대역폭 요구사항에 맞춰 기존 Cloud Interconnect 용량을 더 잘 활용할 수 있습니다. 그 결과 네트워크 인프라의 총소유비용이 절감됩니다.
워크로드 마이그레이션 차단 해제: Uber는 네트워크 정체로부터 중요한 애플리케이션을 보호하여 상당한 워크로드를 Google Cloud로 마이그레이션할 수 있었고, 이 과정에서 운영 오버헤드를 대폭 줄였습니다.

"Cloud Interconnect의 Application Awareness는 더 많은 전략적 워크로드를 Google Cloud로 마이그레이션할 수 있는 능력을 발휘하는 데 핵심적인 역할을 했으며, 전 세계적으로 수요가 급증하는 기간에도 서비스 안정성을 유지하는 데 매우 중요합니다. 트래픽의 우선순위를 지능적으로 지정할 수 있게 해 주므로 우선순위가 높은 서비스를 보호하고 인프라를 더욱 효율적으로 만들어 총소유비용을 절감할 수 있습니다. 단순한 기능 배포가 아니라 비즈니스에 중요한 솔루션을 제공하는 심도 있는 엔지니어링 파트너십이었습니다." – 해리 류, Uber 엔지니어링 부문 이사

AI 및 그 이상을 위한 네트워크 안정성 확보

더 많은 기업이 클라우드 기반 AI 모델, 분산 애플리케이션, 데이터 분석을 통합함에 따라 대규모 데이터 전송을 처리할 준비를 갖추는 것이 비즈니스에 필수적인 요소가 되고 있습니다. 하지만 이 과정에서 중요한 애플리케이션의 안정성을 절대 훼손해서는 안 됩니다.

Cloud Interconnect의 애플리케이션 인식 기능을 통해 Uber는 비즈니스에 중요한 트래픽을 보호하기 위해 단순한 대역폭 과프로비저닝을 넘어선 조치가 최신 하이브리드 및 멀티 클라우드 전략을 수용하는 데 필요한 안정성을 구축하는 데 필수적인 단계임을 입증했습니다.

업계 전반에서 Cloud Interconnect가 지닌 잠재력에 관한 블로그를 읽고 이 서비스가 조직에 어떤 이점을 가져다줄 수 있는지 자세히 알아보세요. 더 자세히 알아볼 준비가 되었다면 Google Cloud의 네트워킹 및 업계 전문가팀이 도와드리겠습니다.

PayPal과 Google Cloud, 판매자를 위한 에이전트 커머스 솔루션 소개

Mon, 27 Oct 2025 16:30:00 +0000

* 본 아티클의 원문은 2025년 10월 28일 Google Cloud 블로그(영문)에 게재되었습니다.

오늘날의 소비자는 초기 제품 탐색부터 최종 구매에 이르기까지 원활하고 맞춤화된 쇼핑 여정을 요구합니다. 에이전트 AI의 등장으로 이제 판매자는 모든 고객 접점에서 실질적으로 도움을 주며 일관된 경험을 제공할 수 있는 기회를 갖게 되었습니다.

바로 이러한 이유로 PayPal과 Google Cloud는 커머스 혁신이라는 공동의 목표 아래, 에이전트 기반 쇼핑 경험을 현실로 구현할 새로운 솔루션을 발표하게 되어 기쁘게 생각합니다. 이 새로운 솔루션은 Google Cloud의 대화형 커머스 에이전트와 PayPal의 결제 기능을 결합합니다.

이 결합을 통해 판매자는 자체 디지털 환경에 에이전트 기반 커머스 환경을 신속하게 배포하여 소비자 참여, 개인화, 전환율을 늘릴 수 있었습니다. 판매자는 에이전트의 톤앤매너, 디자인, 고객 관계에 대한 완전한 통제권을 유지할 수 있습니다.

작동 방식

PayPal 에이전트는 개방형 Agent2Agent (A2A) 프로토콜을 통해 판매자의 에이전트와 안전하게 통신하며, A2A 및 신뢰, 책임성, 사기 방지 기능을 제공하는 Model Context Protocol (MCP)을 기반으로 빌드된 결제 레이어인 Agent Payments Protocol (AP2)과도 통합됩니다

A2A 프로토콜은 AI 에이전트가 조직 전반에서 서로 통신하고, 협업하고, 작업을 위임할 수 있도록 설계된 개방형 표준입니다. AP2는 디지털 사용자 인증 정보를 포함한 요구 사항을 제공하여 에이전트 트랜잭션을 보호합니다.

원활하고 간편한 쇼핑 여정: 에이전트 협업의 힘

이 새로운 서비스를 통해 판매자는 Google Cloud의 대화형 커머스 에이전트를 도입하거나 Google의 에이전트 개발 키트 (ADK)를 사용하여 자체 에이전트를 빌드할 수 있습니다. 이 대화형 커머스 에이전트는 브랜드 규정을 완벽하게 준수하며 판매자를 위한 지능형 영업 사원처럼 작동하도록 설계되었습니다. 이는 고객과 사람처럼 자연스러운 대화로 응대하며, 초기 구매 의도 파악 및 제품 탐색부터 구매 완료에 이르기까지 모든 과정을 안내합니다.

배포가 완료되면 판매자의 커머스 에이전트는 복잡한 요청을 이해하고, 관련 제품을 추천하며, 질문에 답하고, 쇼핑 여정 전반에 걸쳐 사용자를 개인적으로 지원합니다. 제품 탐색 및 선택 과정에서 판매자의 커머스 에이전트는 A2A를 통해 PayPal 에이전트와 연동하여 사용자 권한이 부여된 데이터를 기반으로 사용자의 쇼핑 내역에 대한 컨텍스트를 제공하고 제품 추천을 개선하는 데 도움을 줍니다.

고객이 결제할 준비가 되면 PayPal 에이전트는 AP2 프로토콜에 따라 대화형 인터페이스 내에서 원활하고 안전한 결제 환경을 제공합니다. 또한 PayPal 에이전트는 결제 수단을 추천하고 '선구매 후지불' 자격 여부도 확인할 수 있습니다. 소비자의 동의 하에, 판매자 에이전트는 PayPal 에이전트에 인증된 방식으로 연결되어 신뢰할 수 있는 환경에서 거래를 승인합니다.

소비자 신뢰를 핵심 가치로

에이전트 커머스는 막대한 기회를 제공하지만 동시에 제어, 위험, 사기에 대한 잠재적인 문제를 야기할 수도 있습니다. Google Cloud와 PayPal은 이러한 과제를 선제적으로 해결하고 있습니다.

AP2는 결제 수단에 구애받지 않는 개방형 프로토콜로, Google이 100개 이상의 업계 파트너와 협력하여 개발했습니다. AP2는 AI 에이전트가 사용자를 대신하여 거래할 수 있는 공통의 보안 언어를 제공하며, A2A 프로토콜과 MCP의 핵심 구조를 확장하여 안전하고 책임 소재가 명확하며 승인된 커머스를 위한 필수 기반을 마련합니다.

AP2는 금융 위임을 사용합니다. 이는 위변조가 불가능하고 암호화로 서명된 디지털 계약으로, 사용자 의도에 대한 검증 가능한 증거를 제공합니다. 이 권한 위임은 검증 가능한 디지털 자격 증명(VDC)에 의해 서명되어 부인 방지가 가능한 감사 추적을 생성합니다.

예를 들면 다음과 같습니다:

카트 위임: 사용자가 구매를 직접 승인할 때 사용되는 기본 인증 정보입니다. 카트 위임은 판매자가 생성하고 사용자가 암호화 방식으로 서명(일반적으로 기기를 통해)하여 특정 거래에 대한 승인을 보장합니다.
결제 위임: 결제 네트워크 및 발급사와 공유되는 별도의 VDC로, 거래의 에이전트 특성을 파악하여 네트워크와 발급사가 신뢰를 구축하고 위험을 평가하는 데 도움이 됩니다. 이 사용자 인증 정보에는 AI 에이전트 존재 여부와 트랜잭션 방식 (예: 사용자 현존 vs 사용자 부재)에 대한 신호가 포함되어 있습니다.

기본적으로 AP2는 신뢰할 수 있는 에이전트 주도 결제를 위한 핵심 기반을 제공하여 검증하고 명확한 거래 택임을 확립합니다. 행동을 추론하는 대신, 신뢰는 에이전트 에이전트 오류의 위험을 직접적으로 해결하는 사용자의 의도에 대한 결정적이고 부인 방지가 가능한 사용자의 의도 증명에 기반을 둡니다. 결제 맨데이트는 모든 거래의 근거가 되며, 결제 네트워크가 책임 소재 및 분쟁 해결을 위한 명확하고 공정한 원칙을 수립하는 데 도움이 되는 안전하고 변경 불가능한 감사 추적을 생성합니다.

예를 들어 PayPal의 AP2 규정 준수 에이전트를 사용하면 판매자는 사용자가 현존하여 결제를 승인했음을 보장받을 수 있습니다. API를 사용하는 대신 AP2를 사용하여 에이전트를 연결하므로 사용자, 판매자, 결제 제공업체 모두가 에이전트 주도 결제를 안심하고 시작할 수 있습니다.

오늘 발표를 통해 Google Cloud와 PayPal은 복잡한 프레임워크를 처음부터 빌드할 필요 없이 즉시 사용 가능한 솔루션을 제공하기 위해 협력하게 된 것을 자랑스럽게 생각합니다. 판매자는 이 솔루션을 통해 고객 경험과 관계에 대한 완전한 소유권을 유지할 수 있습니다. A2A 및 AP2 프로토콜을 사용하여 솔루션을 빌드함으로써 프로세스 전반에서 안전과 보안을 보장합니다.

자세한 내용은 Google Cloud 영업 담당자에게 문의하거나 여기를 클릭하여 Google Cloud에 문의하세요.

면책조항: 이 게시물에 표시된 동영상은 정보 제공 목적으로만 제공되며 미래 예측 진술, 전망, 가정을 포함하고 있습니다. 이러한 결과는 미래의 실적을 보장하지 않으며 실제 결과와 경험은 다를 수 있습니다.

위버스 컴퍼니, 차세대 데이터 플랫폼으로의 도약

Tue, 21 Oct 2025 15:00:00 +0000

팬덤 문화의 중심, 데이터로 숨 쉬다

전 세계 아티스트와 팬을 하나로 잇는 글로벌 슈퍼팬 플랫폼, 위버스(Weverse). 이곳에서는 매일 수억 건의 상호작용이 일어나고, 팬들의 열정과 아티스트의 메시지가 데이터가 되어 흐릅니다. 위버스컴퍼니에게 데이터는 단순한 기록이 아닌, 팬과 아티스트의 경험을 더욱 풍부하고 깊이 있게 만드는 핵심 동력입니다. 팬들이 무엇에 열광하는지, 아티스트가 어떤 콘텐츠로 소통할 때 가장 큰 울림을 주는지, 그 모든 해답이 데이터 속에 있습니다.

위버스컴퍼니는 이러한 데이터를 더욱 기민하게 활용하고, AI 기술을 통해 새로운 가치를 창출하며, 궁극적으로는 '넥스트 레벨'의 팬 경험을 제공하기 위한 중대한 결정을 내렸습니다. 바로 기존 데이터 플랫폼을 Google Cloud의 BigQuery로 전면 전환하는 대규모 프로젝트였습니다. 업계의 통상적인 예상 기간을 절반 이상 단축하며 단 8개월 만에 성공적으로 완수한 위버스컴퍼니의 담대한 혁신, 그 생생한 여정을 지금부터 자세히 들여다봅니다.

code_block: <ListValue: []>

변화의 기로에서: 왜 우리는 BigQuery를 선택해야만 했는가?

모든 혁신은 '왜?'라는 질문에서 시작됩니다. 위버스컴퍼니가 데이터 플랫폼 전환이라는 큰 변화를 결심하게 된 데에는 세 가지 명확한 이유가 있었습니다.

- 성장을 저해하는 비용 구조: 위버스 플랫폼이 폭발적으로 성장함에 따라 데이터의 양 또한 기하급수적으로 증가했습니다. 기존 플랫폼의 연간 운영 비용은 백만 달러를 훌쩍 넘어서며, 성장이 오히려 비용 부담으로 이어지는 딜레마에 직면했습니다. 미래 성장을 위해서는 더욱 합리적이고 예측 가능한 비용 구조를 갖춘 플랫폼이 절실했습니다.

- 장시간 소요되는 데이터 분석 환경: "이 쿼리, 언제 끝나요?" 데이터 분석가들 사이에서 흔히 나오던 이야기였습니다. 복잡한 데이터 마트 생성 작업은 440분 이상 소요되기 일쑤였고, 이는 빠르게 변화하는 팬덤 트렌드를 적시에 분석하고 대응하는 데 큰 제약이 되었습니다. 데이터 기반의 신속한 의사결정이 비즈니스의 핵심인 위버스에게 '속도'는 더 이상 타협할 수 없는 가치였습니다.

- AI 시대를 향한 마지막 퍼즐, 통합: 위버스컴퍼니는 이미 Google의 강력한 AI 기술과 위버스의 방대한 팬덤 데이터를 결합하여 새로운 가능성을 탐색하고 있었습니다. 하지만 물리적으로 분리된 데이터 플랫폼은 이러한 시너지를 창출하는 데 걸림돌이 되었습니다. 데이터 이동에 소요되는 시간과 비용 없이, 데이터가 있는 곳에서 바로 AI와 머신러닝을 활용할 수 있는 통합된 환경의 필요성이 그 어느 때보다 커졌습니다.

이 세 가지 과제를 모두 해결할 수 있는 최적의 솔루션으로 위버스컴퍼니는 주저 없이 Google BigQuery를 선택했습니다. 서버리스 아키텍처 기반의 뛰어난 비용 효율성, 압도적인 쿼리 처리 속도, 그리고 Vertex AI를 비롯한 Google Cloud의 다채로운 AI/ML 서비스와의 완벽한 호환성은 위버스가 꿈꾸는 데이터 플랫폼의 미래와 정확히 일치했습니다.

8개월간의 대장정: 계획하고, 실행하고, 마침내 이루어내다

데이터 플랫폼 마이그레이션은 달리는 자동차의 엔진을 교체하는 것과 같은 고난도의 작업입니다. 업계에서는 유사한 규모의 프로젝트에 평균 1년에서 1년 6개월을 예상합니다. 하지만 위버스컴퍼니의 'GCP 마이그레이션 TFT'는 체계적인 로드맵과 기민한 실행력으로 불과 8개월 만에 이 위대한 여정을 성공적으로 완수했습니다.

- 1단계 (2024년 11월): 설계도를 그리다 (POC 및 아키텍처 설계)
  모든 것은 개념 증명(POC)에서 시작되었습니다. BigQuery가 기존 워크로드를 충분히 감당하고, 성능과 비용 측면에서 명확한 이점을 제공하는지 검증했습니다. 수많은 테스트를 통해 확신을 얻은 후, 기존 데이터 파이프라인을 BigQuery 중심으로 재구성하는 상세한 아키텍처 설계를 완료했습니다. 이 단계에서 위험 요소를 미리 식별하고 대응 전략을 수립한 것이 프로젝트 전체의 안정성을 높이는 주춧돌이 되었습니다.

- 2단계 (2025년 2월): 기초를 다지다 (데이터 입수 및 마트 마이그레이션 준비)
  본격적인 데이터 이전을 위해, 위버스 플랫폼의 모든 데이터 소스로부터 BigQuery로 데이터를 안정적으로 수집하는 파이프라인을 구축했습니다. 동시에, 기존에 데이터환경에서 운영되던 수백 개의 데이터 마트 스키마와 ETL(Extract, Transform, Load) 로직을 BigQuery 환경에 맞게 전환하는 정교한 사전 작업을 진행했습니다.

- 3단계 (2025년 3월): 심장을 이식하다 (데이터 마트 마이그레이션)
  프로젝트의 가장 핵심적인 단계였습니다. 비즈니스 중요도와 의존성을 고려하여 데이터 마트를 그룹화하고, 단계적으로 마이그레이션을 진행했습니다. 기존 시스템의 중단 없이 새로운 시스템으로 데이터를 이전하고 검증하는 '제로 다운타임' 마이그레이션을 위해 팀의 모든 역량이 집중되었습니다.

- 4단계 (2025년 6월): 담금질을 하다 (테스트 및 최적화)
  모든 데이터 마트 이전을 완료한 후, 한 달간의 집중적인 테스트 및 최적화 기간을 가졌습니다. 이전된 데이터가 100% 정합성을 유지하는지, 모든 쿼리가 예상된 성능을 내는지, 비용은 계획대로 제어되고 있는지 꼼꼼하게 검증했습니다. 이 과정에서 발견된 병목 구간을 해결하고 쿼리를 최적화하며 시스템의 완성도를 최고 수준으로 끌어올렸습니다.

- 5단계 (2025년 7월 1일): 새로운 시대의 개막 (전체 시스템 오픈)
  마침내, BigQuery라는 새로운 심장을 장착한 위버스컴퍼니의 차세대 데이터 플랫폼이 성공적으로 가동을 시작했습니다.

숫자로 증명된 혁신: 무엇이 어떻게 달라졌나

BigQuery로의 전환은 단순한 인프라 교체가 아닌, 비즈니스의 모든 측면에 긍정적인 영향을 미치는 혁신이었습니다.

- 35%의 총 비용 절감, 혁신을 위한 투자로: 가장 즉각적인 성과는 비용 절감이었습니다. 2025년 예상 기준으로, 기존 대비 연간 약 35%의 비용 절감 효과가 기대됩니다. 이는 단순히 지출을 줄이는 것을 넘어, 절감된 예산을 새로운 AI 모델 개발, 데이터 분석가 양성 등 미래 가치를 창출하는 영역에 재투자할 수 있는 강력한 기반이 됩니다.

- 66% 빨라진 속도, 비즈니스의 가속 페달이 되다: 기존 440분이 걸리던 데이터 마트 생성 시간은 이제 150분이면 충분합니다. 66%의 시간 단축은 데이터 분석가들이 더 이상 데이터를 기다리는 데 시간을 낭비하지 않고, 분석과 인사이트 발굴이라는 본연의 업무에 집중할 수 있게 되었음을 의미합니다. 이는 곧 비즈니스의 의사결정 속도를 가속화하는 결과로 이어집니다.

- 데이터 일관성 확보, 신뢰의 반석을 놓다: 'snake_case'로 통일된 테이블 이름, 일관된 컬럼명 규칙, 'ODS는 UTC, 마트는 KST'로 표준화된 타임존. 사소해 보일 수 있는 이러한 변화는 데이터의 신뢰도를 극적으로 향상시켰습니다. 이제 모든 구성원이 동일한 기준으로 데이터를 이해하고 활용하게 됨으로써, 데이터 분석 결과의 품질과 활용성이 크게 증대되었습니다.

미래를 향한 위대한 첫걸음

위버스컴퍼니의 데이터 플랫폼 전환은 기술적인 성공을 넘어, 데이터를 통해 비즈니스의 미래를 어떻게 그려나갈 것인지에 대한 명확한 비전을 보여준 전략적인 이정표입니다. BigQuery라는 강력하고 유연한 심장을 갖게 된 위버스컴퍼니. 이제 데이터라는 무한한 가능성의 바다에서 팬과 아티스트에게 어떤 놀랍고 혁신적인 경험을 선사하게 될지, 위버스컴퍼니의 다음 행보를 주목해야 할 이유입니다.

위버스컴퍼니, AI의 눈으로 팬의 마음을 읽다

Tue, 21 Oct 2025 15:00:00 +0000

비정형 데이터, 숨겨진 보물창고를 열다

위버스(Weverse) 플랫폼에는 매일 수백만 개의 텍스트와 이미지가 팬들의 손을 통해 생성됩니다. 아티스트를 향한 응원의 메시지, 팬들끼리 나누는 소소한 대화, 직접 찍은 사진과 정성껏 만든 '움짤'까지. 이처럼 형태가 정해지지 않은 '비정형 데이터'는 팬들의 가장 생생한 목소리이자 숨겨진 니즈를 발견할 수 있는 보물창고와 같습니다. 하지만 엄청난 양과 예측 불가능한 형태로 인해, 기존의 정형 데이터 분석 방식으로는 그 가치를 온전히 파헤치기 어려웠습니다.

위버스컴퍼니는 Google BigQuery로의 성공적인 플랫폼 전환 이후, 이 비정형 데이터라는 거대한 보물창고를 열기 위한 새로운 열쇠를 손에 쥐었습니다. 바로 BigQuery에 내장된 강력한 머신러닝 기능, BigQuery ML(BQML)입니다. 위버스컴퍼니는 BQML, 특히 생성형 AI 모델을 활용하여 텍스트의 감정을 분석하고 이미지의 맥락을 이해하며, 이를 통해 완전히 새로운 차원의 콘텐츠 운영 혁신을 이루어내고 있습니다.

BQML이란 무엇인가? 데이터 분석가에게 날개를 달아주는 기술

전통적으로 머신러닝 프로젝트는 데이터 과학자와 엔지니어의 영역이었습니다. Python이나 R과 같은 프로그래밍 언어에 능숙해야 했고, 데이터를 별도의 머신러닝 플랫폼으로 옮겨 복잡한 모델링 작업을 거쳐야 했습니다. 이 과정은 많은 시간과 전문 인력을 필요로 했습니다.

BigQuery ML(BQML)은 이러한 패러다임을 완전히 바꾸었습니다. 데이터 분석가들이 가장 익숙한 언어인 SQL 쿼리만으로 BigQuery에 저장된 데이터 위에서 직접 머신러닝 모델을 훈련시키고, 예측을 수행하고, 평가까지 할 수 있게 해줍니다.

- 데이터 이동 불필요: 모든 작업이 BigQuery 내에서 이루어지므로, 보안과 속도에 유리합니다.
- SQL 기반의 간편함: 복잡한 코딩 없이, CREATE MODEL이라는 간단한 SQL 구문으로 모델을 생성할 수 있습니다.
- 최신 AI 모델 접근성: Google이 자랑하는 최신 생성형 AI 모델(Gemini 등)을 SQL 인터페이스를 통해 손쉽게 활용할 수 있습니다.

BQML은 데이터만 다룰 줄 알았던 분석가에게 'AI 모델 개발'이라는 강력한 날개를 달아주며, 데이터 활용의 민주화를 이끌고 있습니다.

위버스의 BQML 활용 사례: 더 안전하고 건전한 팬덤 문화를 위하여

위버스컴퍼니는 BQML을 플랫폼의 안전과 건전성을 강화하는 데 적극적으로 활용하고 있습니다. 특히 서비스 이용 약관(ToS)을 위반하는 유해 콘텐츠를 식별하고 대응하는 과정에서 BQML은 핵심적인 역할을 수행합니다.

사례 1: 유튜브 댓글 감성 분석으로 악성 콘텐츠 조기 경보
아티스트의 유튜브 채널에 달리는 수많은 댓글 중에는 아티스트의 명예를 훼손하거나 다른 팬들에게 불쾌감을 주는 악성 댓글이 숨어있습니다. 과거에는 담당자가 직접 댓글을 확인하거나, 특정 욕설 키워드를 기반으로 필터링하는 방식을 활용했습니다. 하지만 이 방식은 교묘한 표현이나 비꼬는 문장의 숨은 의도를 파악하기 어려웠습니다.
위버스컴퍼니는 BQML의 자연어 처리 모델을 도입하여 이 문제를 해결했습니다. ML.GENERATE_TEXT 함수를 활용한 간단한 SQL 쿼리로 모든 댓글의 감성(긍정, 부정, 중립)을 실시간으로 분석합니다. 이를 통해 부정적인 감정이 급증하는 영상을 조기에 발견하고, 잠재적인 이슈에 선제적으로 대응하는 '조기 경보 시스템'을 구축했습니다. 이는 운영 효율성을 높였을 뿐만 아니라, 아티스트를 보호하고 팬덤의 긍정적인 분위기를 지키는 데 크게 기여하고 있습니다.
사례 2: 이미지 분석으로 부적절 콘텐츠 자동 필터링
자유롭게 포스트를 작성하는 커뮤니티의 특성상, 폭력적이거나 선정적인, 또는 아티스트의 초상권을 침해하는 부적절한 이미지가 업로드될 위험이 존재합니다. 24시간 인력으로 모니터링하는 데는 제약이 있습니다.
위버스컴퍼니는 BQML의 이미지 분석 모델(Vertex AI Vision API 연동)을 활용하여 이 문제를 자동화했습니다. 사용자가 이미지를 업로드하는 순간, BQML 모델이 이미지를 분석하여 폭력성, 선정성 등 유해 가능성을 판단하고, 사전에 정의된 정책에 따라 자동으로 해당 콘텐츠를 숨기거나 관리자에게 알림을 보냅니다. 이를 통해 유해 콘텐츠의 노출을 최소화하고, 모든 팬들이 안심하고 즐길 수 있는 안전한 플랫폼 환경을 조성하고 있습니다.

왜 위버스에게 BQML은 최고의 선택이었나

수많은 AI 솔루션 중 위버스컴퍼니가 BQML을 핵심 도구로 선택한 이유는 명확합니다.

- SQL만 알면 AI 전문가가 됩니다: 낮은 진입 장벽
  위버스컴퍼니의 데이터 분석가들은 이미 SQL의 전문가들입니다. BQML 덕분에 이들은 새로운 프로그래밍 언어를 배우는 데 시간을 쏟을 필요 없이, 자신들의 핵심 역량인 SQL과 데이터 이해도를 바탕으로 직접 AI 모델을 구축하고 비즈니스 문제를 해결할 수 있게 되었습니다. 이는 AI 기술 도입의 문턱을 획기적으로 낮추었습니다.
- 아이디어에서 실행까지 하루면 충분해요: 압도적인 개발 속도
  데이터 준비부터 모델 학습, 배포까지 모든 과정이 BigQuery라는 단일 플랫폼에서 물 흐르듯 이어집니다. 데이터 과학자와 데이터 엔지니어, 분석가 간의 복잡한 협업 과정이 단순화되면서, 새로운 아이디어를 검증하고 실제 서비스에 적용하기까지의 시간이 수 주에서 단 며칠로 단축되었습니다.
- 데이터와 AI가 한 곳에: 완벽한 통합 환경
  데이터가 있는 곳에서 AI가 실행된다는 BQML의 철학은 위버스에게 가장 큰 매력이었습니다. 민감한 팬 데이터를 외부로 옮길 필요 없이 가장 안전한 환경에서 분석하고, 분석 결과를 다시 비즈니스 인텔리전스(BI) 툴이나 대시보드와 손쉽게 연동하여 전사적으로 공유할 수 있는 통합된 환경은 데이터 활용의 효율성을 극대화했습니다.

데이터를 넘어 마음을 이해하는 플랫폼으로

위버스컴퍼니의 BQML 도입은 단순히 새로운 기술을 적용한 것을 넘어, 데이터를 바라보는 관점을 바꾼 혁신입니다. 정형화된 수치를 넘어 팬들의 감정과 생각이라는 비정형 데이터 속에서 더 깊은 인사이트를 발견하고, 이를 통해 더욱 안전하고 즐거운 팬덤 경험을 제공해가고 있습니다.

앞으로 위버스컴퍼니는 BQML을 활용하여 사용자 이탈 예측, 콘텐츠 개인화 추천, 상품 수요 예측 등 더욱 다양한 영역으로 AI 활용을 확대해 나갈 계획입니다. Google Cloud의 혁신적인 AI 기술과 함께, 데이터를 넘어 팬의 마음을 먼저 이해하는 플랫폼으로 진화해 나갈 위버스컴퍼니의 미래를 기대해 주시기 바랍니다.

SUSE와 Google Cloud의 Confidential Computing 협업 방법

Wed, 23 Jul 2025 16:00:00 +0000

해당 블로그의 원문은 2025년 7월 24일 Google Cloud 블로그(영문)에 게재되었습니다.

민감한 데이터를 보호하는 것은 워크로드를 클라우드로 이전하는 데 있어 중요한 부분입니다. 저장 데이터 암호화(encrypting data at rest)와 전송 데이터 암호화(in transit)는 표준 보안 관행이지만, 사용 중 데이터(data in use), 즉 메모리에서 활발하게 처리되는 동안의 데이터를 보호하는 것은 독특한 보안 및 프라이버시 문제를 야기할 수 있습니다.

사용 중인 데이터까지 보호하기 위해, 저희는 하드웨어 파트너와 협력하여 Confidential Computing을 개발했습니다. 이는 하드웨어 기반의 Trusted Execution Environments(TEEs)을 사용해 사용 중인 데이터를 호스팅 클라우드 제공업체로부터도 격리하고 보호합니다.

안전하고 신뢰할 수 있는 클라우드 환경을 구축하기 위해, 저희는 오픈 소스 및 안전한 엔터프라이즈 솔루션의 글로벌 리더인 SUSE와 파트너십을 맺었습니다. 저희는 함께 조직이 민감한 워크로드를 클라우드에서 실행할 수 있도록 하는 맞춤형 솔루션을 개발했으며, 이는 Google Cloud Confidential Virtual Machines(Confidential VMs)의 하드웨어 기반 보안과 SUSE Linux Enterprise Server(SLES)의 보안을 결합한 것입니다.

오늘, 저희는 SUSE Linux Enterprise Server가 이제 AMD SEV, AMD SEV-SNP 또는 Intel TDX 기술이 활성화된 Google Cloud Confidential VM을 지원한다고 발표하게 되어 기쁩니다. 이전에 SLES는 AMD SEV 및 AMD SEV-SNP 기반의 Confidential VM에서만 정식 출시되었지만, 이제 성능이 뛰어난 C3 머신 시리즈에서 실행되는 Intel TDX 기반의 Confidential VM에서도 정식 출시되었습니다. 이 새로운 제품은 고객에게 민감한 워크로드를 보호하기 위한 더 많은 선택권과 유연성을 제공하며, 게스트 운영 체제 이미지에 대한 Confidential VM 지원을 확장합니다.

aside_block: <ListValue: [StructValue([('title', 'Google Cloud 보안 제품을 경험해 볼 수 있는 $300의 무료 크레딧을 드립니다.'), ('body', <wagtail.rich_text.RichText object at 0x7f90f613dfd0>), ('btn_text', '무료로 시작하기'), ('href', 'http://console.cloud.google.com/freetrial?redirectPath=/welcome'), ('image', None)])]>

Google Cloud는 보안에 대한 계층적 접근 방식을 강력하게 지지합니다. 이러한 맥락에서, SUSE Linux Enterprise Server(SLES)는 게스트 OS 계층을 강화하고, Confidential VM은 인프라 계층을 강화합니다. 또한, SLES의 포괄적인 보안 포트폴리오는 규정 준수, 위험 완화, 그리고 사이버 보안 모범 사례를 지원합니다.

규정 준수 요구사항 충족: SLES는 보안 기능을 통해 조직이 규제 요구사항을 충족하도록 돕습니다. SLES는 연방 정보 처리 표준(FIPS) 140-3 인증 암호화 모듈을 제공합니다.
보안 소프트웨어 공급망 인증 보장: SUSE는 Common Criteria Evaluation Assurance Level(EAL) 4+ 인증을 통해 평가된 보안 소프트웨어 공급망을 유지합니다. SUSE의 빌드 서비스는 Supply Chain Levels for Software Artifacts(SLSA) Level 4 [v. 0.1] 및 Level 3 [v. 1.0]을 따릅니다. Software Bill of Materials(SBOM) 자료는 SPDX 2.0 및 CycloneDX 형식으로 제공됩니다.
평가 노력 감소: 공급업체 인증을 갖춘 SLES를 활용하면 고객은 기존 인증을 참조함으로써 평가 프로세스를 간소화할 수 있습니다.
자동 강화: SLES에는 보안 기술 구현 가이드(STIG)를 준수하는 강화 프로세스를 YAST 또는 AutoYAST를 통해 설정 시 자동화하는 기능이 포함되어 있으며, 필요에 따라 조정할 수 있습니다.

Google Cloud Confidential VM 내에서 SLES를 함께 사용하는 것은 다음과 같은 여러 이점을 제공합니다.

보안 OS로 암호화 보완: SLES는 보안에 중점을 두고 인증을 받은 견고한 운영 체제를 신뢰할 수 있는 환경에 제공함으로써, 애플리케이션과 OS 모두 취약점에 덜 노출되도록 만듭니다.
무결성 및 신뢰성 지원: 고객은 하드웨어와 운영 체제가 모두 예상대로 작동하고 있다는 더 큰 확신을 가질 수 있습니다. Confidential VM은 원격 증명을 제공하여 VM의 신원과 상태를 확인할 수 있습니다. SLES와 같은 안전한 OS를 증명된 Confidential VM에서 실행하면 전반적인 데이터 및 코드 무결성을 지원할 수 있습니다.
Confidential Computing 기술 지원: 모든 Google Cloud Confidential Computing 유형(AMD SEV, AMD SEV-SNP, Intel TDX)에 걸쳐 일관되고 안전한 운영 체제를 제공함으로써, SLES는 민감한 클라우드 워크로드의 배포 및 관리를 간소화하는 데 도움이 됩니다.
민감한 환경에서의 규정 준수 강화: 규제 준수 요건으로 인해 높은 수준의 데이터 보호가 필요한 워크로드의 경우, Confidential VM에서 SLES를 실행하는 이 공동 보안 솔루션은 내부 감사인의 클라우드 마이그레이션 우려를 덜어줄 수 있습니다.
내부 및 외부 위협 대응: Confidential Computing은 주로 하이퍼바이저와 같은 외부 위협으로부터 보호하는 데 도움이 되지만, 보안 중심 OS인 SLES를 Confidential VM에서 실행하면 게스트 OS 자체의 잠재적인 내부 취약점에 대한 추가적인 보호 계층을 제공할 수 있습니다.
데이터 소유권 및 제어 강화: Confidential Computing은 데이터가 클라우드에서 처리되는 동안에도 고객이 데이터에 대한 제어권과 효과적인 소유권을 유지하고 있다는 기술적 보증을 제공합니다. 사용 중인 데이터를 암호화하고, 신뢰 실행 환경(TEE) 내에서 승인된 워크로드만이 접근하도록 제한함으로써 디지털 주권에 대한 더 강력한 확신을 얻을 수 있습니다.
실행 단계까지 제로 트러스트 확장: 이 솔루션은 CPU 메모리에서 데이터를 암호화함으로써, '결코 신뢰하지 않고, 항상 검증하라'는 Zero Trust 원칙을 데이터가 활발하게 처리되는 실행 단계까지 확장합니다. 이는 데이터가 실행 중인 상태를 포함하여 수명 주기 내내 안전하고 암호화된 상태를 유지하도록 보장하여 진정한 제로 트러스트 환경을 구축하는 데 도움이 됩니다.
클라우드 네이티브 워크로드를 위한 안전한 기반 마련: SLES가 안전한 기반을 제공하고 Google Cloud Confidential VM이 하드웨어 수준의 보호를 제공함으로써, 이 환경은 SUSE Cloud Native 솔루션과 함께 가장 민감한 클라우드 네이티브 애플리케이션을 위한 견고한 기반을 제공할 수 있습니다. 기본 컴퓨팅 리소스를 보호함으로써, 사용 중 데이터 보호를 더 높은 수준의 컨테이너화된 클라우드 네이티브 워크로드로 확장할 수 있습니다.

조직은 규제 및 기밀 애플리케이션을 Google Cloud로 자신 있게 이전할 수 있습니다. 데이터가 사용 중인 상태와 안전한 게스트 OS를 포함하여 전체 수명 주기 동안 보호되어 디지털 주권을 강화할 수 있다는 것을 알기 때문입니다.

클라우드에서 민감한 데이터를 보호하는 방법에 대해 더 자세히 알아보려면, 지금 바로 SLES가 설치된 Confidential VM을 생성해 보세요.