개발 및 IT운영

AI 에이전트 빌드의 기초를 다질 수 있는 기회

Fri, 02 Oct 2026 02:00:00 +0000

*이 콘텐츠는 AI 번역 도구를 사용하여 번역되었습니다. 정확성을 기하기 위해 노력하고 있으나, 자동 번역에는 오류나 누락이 포함될 수 있습니다. 정확한 정보는 영문 원본을 참고해 주시기 바랍니다.

최근 'AI 에이전트'에 대한 이야기를 많이 들었지만 실제로 어떻게 빌드해야 할지 잘 모르겠나요? 머신러닝에 대한 배경지식이나 수년간의 소프트웨어 경험이 없어도 시작할 수 있습니다. 가장 좋은 학습 방법은 직접 해 보는 것입니다. 그래서 Agent Valley를 빌드했습니다.

Agent Valley는 5주간 진행되는 무료 라이브 학습 시리즈로, 처음부터 시작해 나만의 실습형 에이전트 시스템을 빌드할 수 있도록 설계되었습니다. 지루한 터미널 줄을 쳐다보는 대신 작고 로우 폴리곤의 가상 세계에서 빌드하고 플레이할 수 있습니다.

강사 소개

Google의 우수 DevRel 엔지니어 중 한 명인 애니 왕이 직접 알려드립니다. 이 과정은 처음부터 끝까지 실습 위주로 진행되며, 상호작용이 가능하고 초보자도 쉽게 따라 할 수 있도록 설계되었습니다. Google에서 AI 시스템을 실제로 설계하는 사람들이 AI 시스템을 빌드하는 방법을 배우고 싶다면 이번 기회를 놓치지 마세요.

학습 방식

노트북의 분할 화면 작업공간에서 빌드하면서 학습합니다. 첫날에는 플레이 캐릭터이자 저장 파일 역할을 하는 커스텀 로우 폴리 동료를 설명하고 소환합니다. 동료를 이끌고 계곡의 5개 구역을 탐험하는 동안 게임 바로 옆에 실시간 런타임 검사기가 표시되어 AI가 실시간으로 무엇을 생각하고 결정하며 비용을 얼마나 지출하는지 정확히 보여줍니다. 설정 과정이 전혀 어렵지 않습니다. Google에서 이러한 실습을 실행할 수 있는 환경을 제공하므로 바로 빌드를 시작할 수 있습니다.

5개의 모듈식 세션으로 구성된 Agent 101 라이브 (언제든지 참여 가능)

1주 차: 소환의 숲 (제어) · 동료를 소환하고 대화 전반에 걸쳐 동료의 기억과 특성을 일관되게 유지하는 방법을 알아보세요.
2주 차: 빌드야드 (분해) · 여러 AI 어시스턴트가 서로의 작업을 방해하지 않고 병렬로 협업할 수 있도록 대규모 프로젝트를 분해하는 방법을 알아봅니다.
3주 차: 마켓 스트리트 (COORDINATE) · 가상 매장을 열어 보세요. 트랜잭션과 반품이 원활하게 진행되고 충돌이 발생하지 않도록 안정적인 코드를 작성하는 방법을 배웁니다.
4주 차: 보관함 (기억하기) · 동반자에게 추억을 선물하세요. 에이전트가 혼동하거나 내용을 지어내지 않고도 과거의 세부정보를 기억하도록 돕는 방법을 알아보세요.
5주 차: 야시장 (라이브) · 대단원의 막을 내립니다. 시스템을 빠르고 저렴하게 유지하면서 에이전트가 불꽃놀이나 무대 조명과 같은 세상의 이벤트에 실시간으로 반응하도록 만드는 방법을 알아보세요.

라이브 스트림에 참여하세요

5 화 9월 1일 시작 · 오전 10:00 (태평양 표준시)
코딩과 플레이를 통해 배우고 싶어 하는 AI 에이전트 초보자
참석 신청하기: goo.gle/agent101

Cloud Run 샌드박스에서 AI 생성 코드를 안전하게 실행

Thu, 01 Oct 2026 21:00:00 +0000

Google Cloud에서 자주 듣는 질문이 있습니다. 호스트 애플리케이션, 데이터, 클라우드 사용자 인증 정보를 위험에 빠뜨리지 않고 AI 생성 코드나 신뢰할 수 없는 바이너리를 안전하게 실행하려면 어떻게 해야 할까요? 즉, 권한이 더 높은 신뢰할 수 있는 프로그램과 완전히 분리된 안전한 공간을 AI로 작성된 프로그램에 어떻게 제공할 수 있을까요?

지금까지 개발자는 컨테이너 클러스터를 사용하여 복잡한 샌드박스 인프라를 빌드하거나 특수한 서드 파티 microVM 런타임에 대한 비용을 지불해야 했습니다.

오늘 WeAreDevelopers World Congress에서 Google Cloud Run 샌드박스의 공개 프리뷰를 발표합니다. Cloud Run 샌드박스는 신뢰할 수 없는 코드와 에이전트 워크로드를 실행하기 위해 특별히 빌드된 기본 제공의 안전한 초고속 런타임 환경으로, 밀리초 단위로 시작됩니다.

다음 예시에서는 평균 지연 시간 500ms로 1,000개의 샌드박스를 시작, 실행, 중지하는 Cloud Run 서비스에서 신뢰할 수 없는 Python 코드를 안전하게 실행하기 위해 요청을 보냅니다.

이 게시물에서는 이 기능과 핵심 사용 사례에 대해 자세히 알아보겠습니다.

Cloud Run 샌드박스란 무엇인가요?

Cloud Run 샌드박스는 기존 Cloud Run 서비스 인스턴스 내에서 거의 즉시 생성할 수 있는 경량의 격리된 실행 경계입니다.

LLM이 동적으로 생성된 Python 스크립트를 실행하여 비즈니스 마진을 계산하거나, 헤드리스 브라우저를 가동하여 웹 조사를 수행해야 하는 경우 Cloud Run 샌드박스는 서버리스 환경을 벗어나지 않고도 이러한 태스크를 실행할 수 있는 안전한 격리된 샌드박스를 제공합니다.

핵심 사용 사례

LLM 코드 인터프리터: AI 제품에 고급 데이터 분석 기능을 빌드합니다. 모델이 Python, R 또는 SQL 코드를 작성하고 실행하여 데이터 세트를 분석하고, 차트를 생성하고, 복잡한 수학 연산을 안전하게 수행할 수 있습니다.
헤드리스 브라우저: 에이전트에게 브라우저를 실행할 수 있는 안전한 환경을 제공합니다. 호스트 머신을 위험에 빠뜨리지 않고 웹페이지를 안전하게 스크랩하고, 스크린샷을 찍고, 웹 워크플로를 자동화할 수 있습니다.
사용자 제출 코드 실행: AI 외에도 Cloud Run에서 호스팅되는 플랫폼은 샌드박스를 사용하여 자체 최종 사용자가 업로드한 커스텀 스크립트, 플러그인 또는 웹훅을 안전하게 실행할 수 있습니다.

작동 방식: 개발자 경험

Cloud Run 서비스에서 샌드박스를 사용 설정하는 방법은 배포에 단일 플래그를 추가하는 것만큼 간단합니다.

1단계: 샌드박스 런처 사용 설정

Cloud Run 서비스를 배포할 때 gcloud 또는 YAML 구성을 통해 샌드박스 런처를 사용 설정합니다.

code_block: <ListValue: [StructValue([('code', 'gcloud beta run deploy my-agent-service \\\r\n --image=gcr.io/my-project/agent-image \\\r\n --sandbox-launcher'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dbe5b90>)])]>

2단계: 코드에서 샌드박스를 기본적으로 생성

사용 설정하면 경량 샌드박스 CLI 바이너리가 실행 환경에 자동으로 마운트됩니다. 에이전트 애플리케이션은 표준 하위 프로세스 호출을 사용하여 프로그래매틱 방식으로 샌드박스를 생성할 수 있습니다.

LLM이 생성한 신뢰할 수 없는 Python 스크립트를 얼마나 쉽게 실행할 수 있는지 보여드리겠습니다.

code_block: <ListValue: [StructValue([('code', 'import subprocess\r\n\r\ndef run_untrusted_code(llm_code: str):\r\n # 1. Write the untrusted LLM code to a local file\r\n with open("/tmp/generated_script.py", "w") as f:\r\n f.write(llm_code)\r\n \r\n # 2. Run it inside the secure sandbox\r\n # The sandbox shares your container\'s filesystem tools but runs in a secure silo\r\n result = subprocess.run(\r\n ["sandbox", "do", "--", "python3", "/tmp/generated_script.py"],\r\n capture_output=True,\r\n text=True,\r\n timeout=10\r\n )\r\n \r\n return result.stdout if result.returncode == 0 else result.stderr'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dbe5150>)])]>

보안 내재화 설계: 기본적으로 제로 트러스트

Cloud Run 샌드박스는 악의적이거나 잘못된 코드 실행으로부터 호스트 애플리케이션과 클라우드 리소스를 보호하도록 설계되었습니다. 런타임은 다음 세 가지 중요한 보안 경계를 적용합니다.

1. 사용자 인증 정보 및 환경 격리: 이러한 샌드박스는 Cloud Run 서비스의 환경 변수에 액세스할 수 없으며 Google Cloud 메타데이터 서버를 호출할 수도 없습니다.

2. 잠긴 네트워크 이그레스 (기본 거부): 기본적으로 샌드박스는 아웃바운드 네트워크 액세스가 전혀 없습니다. 악의적인 서버로 데이터를 무단 반출하려는 스크립트를 실행하도록 에이전트를 속이는 경우 네트워크 요청은 시스템 레이어에서 차단됩니다. 이그레스는 명시적으로 요청된 경우에만 사용 설정할 수 있습니다.

code_block: <ListValue: [StructValue([('code', 'sandbox do --allow-egress -- curl https://api.github.com'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dbe5690>)])]>

3. 안전한 파일 시스템 오버레이: 샌드박스는 컨테이너의 파일 시스템에 대한 읽기 전용 뷰로 실행되므로 설치된 패키지, Python 런타임, 바이너리를 사용할 수 있지만 모든 변경사항은 격리된 임시 메모리 오버레이에 기록됩니다. 샌드박스 실행이 종료되면 생성된 모든 파일이 폐기됩니다. 샌드박스 전반에서 재사용할 수 있도록 필요에 따라 파일을 가져오고 내보낼 수 있습니다.

code_block: <ListValue: [StructValue([('code', '# Write data from the sandbox to an archive file that can be persisted\r\nsandbox do --write --export-tar=/tmp/work.tar \\\r\n -- /bin/bash -c "mkdir -p /tmp/work && echo \'task-complete\' > /tmp/work/status.txt"\r\n\r\n# Import the archive file in a new sandbox\r\nsandbox do --write --import-tar=/tmp/work.tar \\\r\n -- /bin/bash -c "cat /tmp/work/status.txt"'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dbe6850>)])]>

ADK 및 ComputeSDK 기본 제공 지원

Cloud Run 샌드박스는 새로운 에이전트 개발 키트의 다음 버전에서 CloudRunSandboxCodeExecutor와 함께 지원됩니다. 이 통합을 통해 Cloud Run에서 실행되는 ADK 에이전트는 단일 라인으로 코드를 실행할 수 있습니다.

code_block: <ListValue: [StructValue([('code', 'from google.adk.agents import Agent\r\nfrom google.adk.integrations.cloud_run import CloudRunSandboxCodeExecutor\r\n\r\nanalyst_agent = Agent(\r\n name="cloud_run_data_analyst",\r\n model="gemini-3.1-pro-preview",\r\n system_instruction=(\r\n "You are an expert data analyst. Write and execute Python code to answer "\r\n "user questions and process data safely."\r\n ),\r\n code_executor=CloudRunSandboxCodeExecutor(),\r\n)'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dbe7c90>)])]>

샌드박스를 실행하기 위한 벤더 불문 SDK인 ComputeSDK에도 Cloud Run 샌드박스가 추가되었습니다. 이 SDK를 사용하면 Cloud Run 서비스 외부에서 샌드박스를 원격으로 호출하거나 서비스에서 로컬 도구로 직접 사용할 수 있습니다. Cloud Run 샌드박스에 이 SDK를 사용하는 방법은 여기에서 확인할 수 있습니다.

지금 시작하기

온디맨드 가상 머신에 높은 프리미엄을 부과하는 전용 샌드박스 호스팅 플랫폼과 달리 Cloud Run 샌드박스는 기존에 할당된 CPU와 메모리에서 직접 실행됩니다. 샌드박스는 실행 중인 인스턴스의 리소스를 공유하므로 이 기능을 사용하는 데 추가 비용이나 프리미엄이 들지 않습니다. 문서는 여기에서 확인할 수 있습니다.

클라우드 안정성 사고 처리를 위한 권장사항

Thu, 01 Oct 2026 19:00:00 +0000

클라우드 중단은 전 세계적인 서비스 중단부터 특정 리전, 영역 또는 프로젝트, 워크로드, 애플리케이션에 국한된 문제까지 다양합니다. Google Cloud Platform 서비스 중단이 서비스에 영향을 미치고 있다고 의심되는 경우 체계적인 '확인→조사→보고→해결→검토' 워크플로를 따라 문제를 해결하는 것이 좋습니다. 또한 서비스 중단이 발생하기 전에 장애를 고려하여 설계하고 서비스 복원에 필요한 단계를 적극적으로 연습하여 향후 발생할 중단에 맞춰 환경을 준비해야 합니다.

이 블로그에서는 안정성 사고 대응 기능을 설계 및 실행하고 영향을 최소화하는 데 도움이 되는 주요 안정성 사고 처리 권장사항을 간략히 설명합니다. 이는 포괄적인 가이드가 아니라 자문 목적으로 가장 중요한 관행만 다루는 입문서입니다. 보안 사고와 관련된 추가 관행은 여기에서 다루지 않습니다.

여기에서 다룬 기본 단계 외에도 AI 에이전트와 도구가 사고 처리 방식을 어떻게 혁신하고 있는지 살펴보는 것도 좋습니다. Prodcast의 이번 에피소드에서는 Google 직원들이 사이트 안정성 엔지니어링(SRE)에서 에이전트 AI를 활용하여 문제를 조기에 감지하고 중단을 방지하는 최신 트렌드를 살펴봅니다. Cloud Assist 조사를 사용해 보거나 에이전트 스킬 및 원격 관리 MCP 서버를 탐색하여 문제를 빠르게 파악할 수 있는 또 다른 도구 모음을 확보하세요. 이러한 고급 기법을 살펴보기 전에 먼저 사고를 효과적으로 처리하기 위한 기본적인 단계를 중점적으로 살펴보겠습니다.

1. 준비

문제가 발생하기 훨씬 전에 설계, 데이터, 플레이북, 교육이라는 최소 네 가지 차원에서 서비스 중단에 대비하는 데 상당한 시간을 투자해야 합니다.

설계: 느리거나 응답하지 않는 인스턴스에서 트래픽을 전환하는 부하 분산기와 같은 자동화된 대응 조치를 설계하거나 사고 대응 플레이북을 최대한 자동화하여 미래를 대비하고 향후 사고를 완화합니다. 모든 중요 애플리케이션의 설계를 검토하여 가능한 한 많은 작업을 자동화함으로써 대응 및 복구 속도를 높입니다.
데이터: 중단이 발생했을 때 의미 있는 데이터를 즉시 사용할 수 있으면 대응 역량이 크게 향상됩니다. Cloud Logging, Cloud Trace, Cloud Monitoring 또는 기타 서드 파티 관측 가능성 도구를 사용하고, 관측 대상 시스템과 별도의 위치에 있는 중복 스택에 해당 데이터를 복제합니다. 사고가 발생하기 전에 관측 가능성 스트림 전반에서 타임스탬프가 동기화되어 쉽게 연관성을 파악할 수 있는지 확인하거나, 시간이 중요한 서비스 중단 시 주문형으로 이를 수행하는 방법을 알아두세요.
플레이북: 모든 담당자의 역할과 책임을 명확하게 정의하고 사고 대응 프로세스를 상세히 기록한 잘 짜인 플레이북은 효율적인 사고 대응을 위해 무엇보다 중요합니다. 누가 무엇을 담당하나요? 각 중단 유형에 대해 누구에게 알리거나 누구를 동원해야 하나요? 어떻게 연락할 수 있나요? 어떤 도구와 데이터를 사용할 수 있나요? 결과는 어떻게 전달되나요? 장기화되는 사고가 발생할 경우 팀은 다음 교대 근무자에게 어떻게 업무를 인수인계하나요? 사고 대응 시뮬레이션을 실시하고 모든 단계를 면밀히 검토하여 플레이북에서 보완이 필요한 부분을 파악하세요. 책임이 명확하지 않으면 완화 조치에 더 오랜 시간이 걸릴 수밖에 없습니다.
교육: 서비스 중단은 드물게 발생하는 이벤트입니다. 직원들이 대응 방법을 숙지하고 기억하도록 하려면, 팀 간 사고 대응 시뮬레이션 훈련을 매년 여러 차례 실시하여 관련 프로세스를 반복 교육해야 합니다. 시뮬레이션 훈련에 대한 사후 검토를 통해 필요한 개선 사항을 파악할 수 있습니다.

2. 확인

최선을 다해 대비하더라도 서비스 중단은 발생하기 마련입니다. 다음과 같은 여러 경로를 통해 서비스 중단을 감지할 수 있습니다.

관측 가능성 도구(Google 도구 또는 서드 파티 도구)
예정된 유지보수에 대한 Unified Maintenance 관리 알림
알림 정책으로 관리되는 Personalized Service Health 알림
Google의 선제적인 고객 모니터링

이제 무엇이 손상되었는지, 궁극적으로 누가 문제를 해결해야 하는지 결정해야 합니다.

Google, 예: 버그, 코드 출시, 하드웨어 장애 등
사용자, 예: 구성 변경, 부하 증가, 할당량 상한 등
서드 파티, 예: 다른 클라우드 제공업체에서 호스팅하는 디렉터리

Google에서 사고를 선언하고 문제 해결을 시작한 경우, 보조 스택으로 장애 조치하는 식으로 서비스를 빠르게 복구할 수 있는지 추정합니다(아래의 '일반적인 원인' 표 참조). Google에서 사고를 선언하고 수정사항을 제공할지 여부는 다음을 참조하여 확인할 수 있습니다.

Personalized Service Health: 이것을 먼저 확인하세요. Personalized Service Health는 프로젝트 및 리전과 관련된 사고를 구체적으로 보여주며, 사고 유형을 다음과 같이 구분합니다.

새로운 사고: Google에서 알림을 수신했으며, 담당자가 조사 중이고, 영향은 아직 알려지지 않음
확인된 사고: Google에서 조사한 결과 고객이 영향을 받은 것으로 확인됨

Google Cloud 콘솔 내에 있는 Personalized Service Health에는 공개 대시보드에 나타나지 않는 제한된 범위의 사고가 표시되는 경우가 많습니다. Personalized Service Health는 Android 및 iOS 스마트폰용 모바일 클라이언트도 제공합니다. 단, 휴대전화에서 업무용 ID와 사용자 인증 정보를 사용할 수 있어야 합니다.

Gemini Cloud Assist는 Personalized Service Health와 통합되어 있으므로 자연어로 해당 정보를 쿼리하는 데 사용할 수 있습니다.
Cloud Service Health 대시보드: 많은 고객에게 영향을 미치는 광범위하고 심각한 사고를 알려 주는 인증되지 않은 공개 웹페이지입니다. 영향 범위가 제한된 중단은 공개적으로 외부화되지 않습니다. 모든 콘텐츠는 Personalized Service Health에서도 사용할 수 있습니다. Personalized Service Health가 중단되는 경우 Cloud Service Health가 별도의 인프라에 구축된 대체 채널 역할을 합니다.
알려진 문제: 콘솔에서 지원 > 케이스로 이동하여 케이스를 확인하고 콘솔 툴바의 리소스 선택기를 사용하여 관심 있는 특정 클라우드 리소스를 찾습니다. 그런 다음 알려진 문제를 클릭합니다. 문제가 여기에 나열된 문제와 일치하는 경우 지원 케이스를 연결하면 케이스 기록에서 자동 업데이트를 받을 수 있습니다. 일치하는 항목이 없으면 새 지원 케이스를 엽니다. Google은 사고가 선언되는 즉시 해당 케이스를 관련 사고에 자동으로 연결합니다.
Google에서 선언한 사고는 새로운 정보가 제공될 때마다 업데이트되므로 정기적으로 다시 확인하거나 Personalized Service Health 알림 정책을 설정하여 새로운 정보가 제공될 때마다 알림을 받으세요.

여러 클라우드에서 리소스를 호스팅하고 있다면, 문제가 여러 클라우드 제공업체에서 공통적으로 발생하는지 초기에 확인해 보는 것이 좋습니다. 그렇다면 사용자 또는 애플리케이션이 상호작용하는 서드 파티 서비스로 인해 문제가 외부에서 발생했을 가능성이 높습니다.

3. 조사

Google에서 선언한 안정성 사고의 클라우드 사용 공간 내 영향 범위를 확인하려면 먼저 Personalized Service Health 업데이트에서 기술적 문제에 대한 설명을 확인하세요. 무엇을 찾아야 하는지 알면 영향 범위를 파악하고 적절한 비상 조치를 더 빠르게 결정할 수 있습니다.

Google에서 사고를 선언하지 않은 경우 다음 사항을 확인하여 환경 내 구성 오류 또는 문제를 배제해 보세요.

Cloud Monitoring: 대시보드에서 오류율(예: 5xx 오류) 급증, 지연 시간 증가 또는 트래픽 감소를 확인합니다.
Cloud 로그: 로그 탐색기를 사용하여 DEADLINE_EXCEEDED, SERVICE_UNAVAILABLE과 같은 특정 오류 메시지 또는 API 오류를 찾습니다.
할당량: 프로젝트 할당량(예: CPU, API 비율 제한)에 도달하지 않았는지 확인합니다. 할당량에 도달하면 서비스 중단과 유사한 동작이 발생할 수 있습니다.
변경 내역: 최근에 적용된 변경사항의 로그를 확인합니다. 모든 문제가 즉시 나타나는 것은 아니지만, 타임라인상 근접성은 확정적 증거가 아닐지라도 인과 관계를 보여 주는 강력한 지표가 될 수 있습니다. 또한 증상이 시작되기 직전에 Google에서 업데이트를 출시했는지 확인합니다. Cloud Hub에서 Unified Maintenance 관리 인터페이스를 확인하세요.

트래픽 급증이나 DDoS 공격과 같은 명확한 원인이 없는데 변경사항을 적용한 직후에 문제가 발생했다면, 해당 변경사항을 취소하고 마지막으로 정상 작동이 확인된 구성으로 되돌리는 것이 좋은 전략입니다.

4. 보고서

Cloud Service Health 및 Personalized Service Health 대시보드가 녹색이지만 측정항목에 장애가 표시되는 경우 Google에 보고해야 합니다.

우선순위 결정:

P1(심각): 프로덕션 서비스를 사용할 수 없거나 심각한 영향을 받았으며 해결 방법이 없습니다.
P2(높음): 심각한 영향 또는 성능 저하가 있지만 해결 방법이 있을 수 있습니다.
우선순위 설정에 관한 안내 및 문제 설명에 관한 안내를 참고하세요.

케이스 제출: 콘솔에서 지원 > 케이스 > 케이스 만들기로 이동합니다.

제출한 우선순위의 근거를 마련하고 Cloud 지원팀에서 케이스의 우선순위를 지정할 때 하향 조정되지 않도록 정량화할 수 있는 비즈니스 영향을 설명하세요. 명확하고 정확한 근거를 제시하면 도움이 됩니다.

포함할 필수 정보:

프로젝트 ID와 영향을 받는 리전/영역
타임스탬프(시작 시간, 진행 여부)와 명확하게 표시된 시간대
특정 오류 메시지 또는 로그 스니펫
범위: 모든 사용자/시스템에 영향을 미치나요? 특정 하위 집합/위치에만 영향을 미치나요?

프리미엄/고급 지원 에스컬레이션

프리미엄 또는 고급 지원 요금제를 이용 중인데 P1 케이스가 적절한 조치를 받지 못하고 있다면, 콘솔 내 해당 지원 케이스에서 에스컬레이션 버튼을 사용하세요. 그러면 지원 관리자가 상황을 조사하고 시정할 수 있도록 알림이 전송됩니다.

5. 해결

이러한 단계를 수행하고 있다면 서비스 중단을 해결하기 위한 과정을 잘 밟고 있는 것입니다. 그동안 서비스 중단의 영향을 완화하고 영향을 받는 이해관계자와 소통할 수 있는 몇 가지 방법을 소개합니다.

해결을 기다리는 동안 다음 작업을 수행하세요.

소통: 이해관계자와 고객에게 알립니다. 투명한 정보 공유는 기대치를 조절하고 불필요한 내부 보고가 중복되는 것을 방지해 줍니다.
장애 조치: 멀티 리전 아키텍처를 사용하는 경우 트래픽을 정상 리전으로 전환하는 것을 고려하세요. 먼저 중단이 워크로드 수준이 아닌 인프라 수준에서 발생했는지 확인하는 것이 좋습니다.
해결 방법 확인: Google은 영구적인 해결 방법을 마련하는 동안 Service Health Dashboard 업데이트 또는 Personalized Service Health 업데이트에 임시 해결 방법을 게시하는 경우가 많습니다.
규제 보고 요구사항 고려: 조직이 규제 보고 요구사항의 적용을 받는지, 최초 보고와 후속 보고의 기한이 언제인지 파악합니다. Google Cloud는 특정 기준을 충족하는 사고에 대해 사고 보고서를 작성합니다. 보고서를 받는 방법은 여기에서 확인하세요. 프리미엄 지원 고객은 계정의 특정 호스팅 위치, 타임스탬프 등에 맞게 맞춤설정된 사고 보고서인 사고 요약을 요청할 수도 있습니다.

에스컬레이션 해제 및 종료

시스템이 안정화되면 Google은 심각도 수준을 낮추고 대기 중인 에스컬레이션 체인을 해제합니다. Google은 영향을 받은 모든 고객을 대상으로 모든 완화 조치를 취한 경우에만 Personalized Service Health에서 사고를 종료합니다. 다른 고객보다 먼저 복구가 완료되는 경우, 사고 종료 시간 이전이라도 사용자의 특정 서비스가 복원될 수 있습니다. 시스템이 지정된 자동 종료 기간에 안정적으로 실행되면 Google Cloud 상태 대시보드에서 사고가 공식적으로 종료됩니다. 이 시점에서 서비스가 정상적으로 작동하는지 확인합니다. 사고 대응 담당자가 사고 처리에 쏟은 추가 시간에 대해 별도의 보상을 받지 못하는 상황이라면, 어떤 방식으로든 꼭 감사의 마음을 전해 보세요.

6. 검토

문제가 해결되고 운영이 정상적이고 안정적인 상태로 돌아오면 사후 분석을 수행하여 향후 서비스 중단 시 팀이 더 효과적으로 대응할 수 있는 방법을 파악해야 합니다. 사고 대응 프로세스에서 의미 있고 실질적인 개선 사항을 도출하려면 '비난 없는' 접근 방식이 필요합니다. 다음과 같이 질문해 보세요.

어떤 점이 만족스러웠나요?
어떤 점을 개선해야 한다고 생각하시나요?
어떤 부분에서 운이 좋았을까요?
어떤 부분에서 운이 나빴을까요?

그런 다음 플레이북, 도구, 교육을 개선하기 위해 어떤 변화를 줄 수 있는지 결정합니다.

Google에서는 주요 서비스 중단에 대해 종종 사후 분석 또는 사고 보고서를 게시하며, 이는 Personalized Service Health를 통해 확인할 수 있습니다. 이를 검토하여 근본 원인을 파악하고 자체 재해 복구 계획을 조정하여 향후 영향을 방지하거나 줄이세요. 프리미엄 지원 요금제를 사용하는 고객은 Google로 인해 발생한 사고에 영향을 받고 P1 케이스를 연 경우 사고 요약을 요청할 수 있습니다. 사고 요약은 고객의 환경(예: 영향의 시작 및 종료 시간)에 맞게 맞춤설정된 사고 보고서입니다.

일반적인 원인, 소통 및 예방 전략

앞으로 준비하고 계획하는 데 도움이 되도록 Cloud Service Health 및 Personalized Service Health에 보고된 증상을 기반으로 몇 가지 일반적인 사고를 개요로 정리했습니다. Google에 기대할 수 있는 소통에 대한 안내와 플레이북에 포함할 수 있는 몇 가지 일반적인 완화 또는 예방 전략도 함께 제공합니다.

영향 범위	일반적인 원인	소통	전략
단일 영역 또는 리전. 제품의 하위 집합.	출시로 인해 발생하는 전형적인 소프트웨어 문제. 학습 요점: - 워크로드의 위치 범위(영역 및 리전) 파악 - 제품 간 상호 의존 가능	주요 사고는 Cloud Service Health를 통해 전달됩니다. 심각한 사고와 경미한 사고(심각도가 아닌 고객 수 기준)는 Personalized Service Health를 통해 전달됩니다. 고도로 국지화된 사고는 Cloud Service Health 또는 Personalized Service Health를 통해 전달되지 않습니다.	구성된 경우 장애 조치를 수행하되, 먼저 보조 스택의 상태를 확인합니다.
단일 영역. 대부분 또는 모든 제품.	전형적인 전원 또는 냉각 문제.	Cloud Service Health와 Personalized Service Health를 확인합니다.	구성된 경우 다른 영역으로 장애 조치합니다.
단일 리전. 대부분 또는 모든 제품.	전형적인 백본 네트워킹 인프라 문제	Cloud Service Health와 Personalized Service Health를 확인합니다.	구성된 경우 다른 리전으로 장애 조치합니다.
제품의 컨트롤 플레인 문제	전형적인 뒤늦게 감지된 문제	고객에게 중대한 영향이 있는 것으로 확인되면 Personalized Service Health를 통해 전달됩니다.	해결 방법을 찾습니다. Google에서 문제를 해결할 때까지 기다립니다. 구성된 경우 장애 조치합니다.
글로벌 제품의 멀티 리전 문제	드물지만 발생할 수 있으며 일반적으로 빠르게 감지됩니다. 학습: 완화 옵션이 제한될 수 있습니다. 리전별 변이, 유사한 기능을 갖춘 대체 제품을 사용해 보세요.	Cloud Service Health와 Personalized Service Health를 확인합니다.	Google에서 문제를 해결할 때까지 기다립니다. 그동안 Google의 소통과 자체 조사를 통해 이것이 Google에서 해결해야 하는 문제인지 확인합니다.
용량 / 리소스 소진 문제	제품/위치/모델의 용량을 초과하는 시스템 수준 수요. (클라우드는 확장이 가능하도록 설계되었지만 항상 한계가 있으므로 적절한 계획이 필요합니다)	오류 메시지. 사고가 선언되지 않습니다.	예측된 용량 요구사항에 맞게 예약을 진행합니다(비용이 허용되는 경우). 영역을 유연하게 배치하는 것도 도움이 될 수 있습니다.
할당량 소진	트래픽 예측의 어려움/부정확성	오류 메시지. 사고가 선언되지 않습니다.	사용량 추세를 한도와 대조하여 정기적으로 검토합니다.

자세히 알아보기

이 문서는 핵심 사항을 간략하게 요약한 것입니다. Google Cloud와 프리미엄 지원 계약을 체결한 경우 계정팀에 문의하여 대응 계획을 자세히 검토하세요. 안정적인 서비스를 구축하고 사고에 대응하는 방법을 포괄적으로 다룬 논문은 Google의 SRE 도서에서 확인하세요. 무료로 다운로드할 수 있습니다. SRE 도서의 새 버전이 2026년 10월경에 출시될 예정이며 O’Reilly Media에서 구매할 수 있습니다. AI 지원 사고 처리를 심층적으로 살펴보는 입문서도 준비 중이니 기대해 주세요.

모든 LLM 워크로드가 동일한 것은 아닙니다. 분류와 생성에 대한 TPU 성능 벤치마킹

Thu, 01 Oct 2026 19:00:00 +0000

실험적 프로토타입에서 엔터프라이즈 프로덕션으로 대규모 언어 모델 (LLM)을 이전하면 인프라가 성능 한계와 단위 경제성을 모두 결정한다는 중요한 사실이 드러납니다. 표준 하드웨어 벤치마크는 모든 LLM 요청이 동일한 방식으로 실리콘에 스트레스를 가하는 것은 아니라는 근본적인 현실을 종종 무시합니다.

이 게시물에서는 Google Cloud TPU v6e에서 Gemma 3 12B와 Gemma 3 27B를 비교하는 포괄적인 벤치마킹 연습을 통해 TPU 인프라는 구조적으로 다른 워크로드를 대규모로 처리할 때 실제로 어떤 성능을 발휘할까요?라는 중요한 아키텍처 질문에 답합니다.

주요 결과 및 제안

방법론을 살펴보기 전에 TPU v6e에 Gemma 3을 배포하는 설계자를 위한 핵심 내용을 소개합니다.

세대별 실적 월

디코딩이 많이 필요한 생성 작업의 경우 Gemma 3 27B 모델은 동시 사용자 수가 64명을 넘으면 성능이 급격히 저하되며, 128명에서는 정규화된 처리량 승수가 4.12배로 정체됩니다. 반면 12B 모델은 최대 8.19배의 승수로 확장됩니다.

제안: 워크로드에 높은 동시 실행 생성이 필요한 경우 12B 모델로 다운사이징하거나 27B 모델의 경우 복제본당 동시 요청을 64개로 제한하는 엄격한 포드 자동 확장 한도를 설정하세요.

분류 패리티

프리필이 많은 분류 작업의 경우 모델 파라미터 크기가 훨씬 덜 중요합니다. 12B 모델과 27B 모델 모두 TPU를 포화시키지 않고 비슷한 최대 확장 (128명의 사용자에서 정규화된 처리량 약 6.0x~6.4x)을 달성합니다.

제안: 처리량 페널티 없이 요약 또는 분류 워크플로를 위해 더 크고 강력한 모델을 안전하게 배포할 수 있습니다. 평균 --max-num-seqs 또는 --max-model-len은 평균 사용자 부하와 요청당 평균 토큰을 기반으로 신중하게 유지해야 합니다. 그렇지 않으면 요청이 삭제될 수 있습니다.

메시지 월을 중심으로 설계

하드웨어 포화는 심각한 지연 시간 급증과 무음 요청 드롭아웃으로 나타납니다. 이를 완화하려면 표준 CPU/메모리 확장 트리거에 의존하지 마세요. 대신 E2E (End-to-End) 지연 시간 측정항목을 기반으로 확장하고 적극적인 vLLM 버킷 패딩 최적화 (VLLM_TPU_BUCKET_PADDING_GAP)를 구현하여 메모리를 절약합니다.

아키텍처 설정

추론 스택은 다음과 같은 세 가지 핵심 요소로 나눌 수 있습니다.

1. 인프라: GKE 및 TPU

배포의 기반은 Google Kubernetes Engine (GKE) Autopilot 클러스터입니다. 여기에 2x2 칩 토폴로지로 구성된 단일 호스트 TPU v6e 노드 풀이 연결되어 있습니다.

2. 소프트웨어 및 도구: vllm

서빙 프레임워크로는 vllm-project/tpu-inference를 통해 vllm을 활용했습니다.

3. 모델: Gemma 3 12B 및 27B

Google Cloud는 Gemma 3 12B와 Gemma 3 27B라는 두 가지 고성능 개방형 가중치 모델을 평가했습니다. 이러한 모델은 HuggingFace를 통해 액세스되었습니다.

워크로드: 분류 대 생성

모든 LLM 요청이 시스템에 동일한 수준의 스트레스를 주는 것은 아닙니다. 16, 32, 64, 128명의 동시 사용자를 대상으로 분류와 생성이라는 두 가지 시나리오를 벤치마킹했습니다.

분류 (높은 입력, 낮은 출력): 이 사용 사례는 이커머스 규정 준수 작업을 모방합니다. 프롬프트에는 제품 규칙, 항목 설명, OCR로 추출한 텍스트가 대량으로 포함되어 있습니다. 출력은 매우 작으며 일반적으로 항목을 '허용' 또는 '금지'로 분류합니다. 입력 시퀀스 길이 (ISL)는 약 4,000토큰이고 출력 시퀀스 길이 (OSL)는 약 10토큰입니다.
생성 (낮음/중간 입력, 높음 출력): 이 사용 사례는 장문의 텍스트 생성을 모방합니다. 프롬프트는 노동 시장에서 AI의 미래에 관한 자세한 분석 정책 요약문을 요청합니다. 모델은 대부분의 시간을 수백 개의 토큰을 디코딩하고 스트리밍하는 데 사용합니다. 입력 시퀀스 길이 (ISL)는 500토큰이고 출력 시퀀스 길이 (OSL)는 약 1,000토큰입니다.

결과 및 관찰

처리량 (요청/초), 엔드 투 엔드 지연 시간과 같은 측정항목을 측정했으며, 그 결과 파라미터 크기와 하드웨어 대역폭이 어떻게 상호작용하는지에 대한 흥미로운 인사이트를 얻을 수 있었습니다. 아키텍처 일관성을 보장하기 위해 모든 벤치마크는 vllm-project/tpu-inference 하드웨어 플러그인을 사용하여 실행되었으며, max-model-len=128000, max-num-batched-tokens=8192, 및 max-num-seqs=512의 표준화된 글로벌 서빙 구성을 활용했습니다.

세대별 확장 차이

생성 작업에서는 두 모델이 최대 64명의 동시 사용자까지 비슷한 성능을 보입니다. 그러나 128명의 동시 사용자를 기준으로 Gemma 3 12B 모델은 Gemma 3 27B 모델의 4.12배에 비해 8.19배의 정규화된 처리량 승수를 달성하여 훨씬 더 우수한 확장성을 보여줍니다 (16명의 사용자를 기준으로 Gemma 3 12B 기준에 대해 정규화됨). 이는 더 큰 27B 모델이 높은 생성 부하에서 훨씬 더 일찍 메모리 또는 컴퓨팅 한계에 도달한다는 것을 시사합니다.

동시 사용자	Gemma 3 12B 처리량 (req/s)	Gemma 3 27B 처리량 (req/s)
사용자 16명	1.00 x	1.05배
사용자 32명	1.98배	1.97배
사용자 64명	2.96배	4.00 x
사용자 128명	8.19 x	4.12 x

aside_block: <ListValue: [StructValue([('title', '전문가 팁 → 높은 동시 실행 시 측정항목 인플레이션'), ('body', <wagtail.rich_text.RichText object at 0x7f162d846ed0>), ('btn_text', ''), ('href', ''), ('image', None)])]>

분류 성능 패리티

분류 작업에서는 Gemma 3 12B 모델과 Gemma 3 27B 모델 간의 확장 동작에 미미한 차이만 있습니다. 두 모델 모두 하드웨어 용량 내에서 효율적으로 작동하며 확장성이 뛰어나 128명의 동시 사용자에서 약 6.04배~6.37배의 최대 정규화된 처리량을 달성합니다 (16명의 사용자에서 Gemma 3 12B 기준 대비 정규화됨).

동시 사용자	Gemma 3 12B 처리량 (req/s)	Gemma 3 27B 처리량 (req/s)
사용자 16명	1.00배	0.76배
사용자 32명	1.18배	1.53배
사용자 64명	2.04배	3.15배속
사용자 128명	6.37배	6.04배

지연 시간 임곗값 분석

엔드 투 엔드 (E2E) 지연 시간은 모델 크기와 작업에 따라 다른 확장 동작을 보입니다. 동일한 서빙 하이퍼파라미터 (--max-num-seqs=512)를 사용할 때 Gemma 3 12B 모델의 분류 지연 시간은 사용자 수가 32명에서 64명으로 늘어날 때 대략 두 배로 증가하여 리소스 경합을 나타냅니다. 그러나 더 큰 Gemma 3 27B 모델의 경우 분류 지연 시간은 32명에서 64명 사이의 사용자 수에서 비교적 평탄하게 유지되다가 128명에 도달하면 두 배로 증가합니다.

모델	작업	사용자 16명	사용자 32명	사용자 64명	사용자 128명
Gemma 3 12B	생성	1.00배	1.13배	1.40배	1.70배
Gemma 3 12B	분류	1.00배	0.99배	1.79배	2.90배
Gemma 3 27B	생성	1.20배	1.68배	2.93배	3.33배
Gemma 3 27B	분류	1.20배	1.95배	1.95배	3.88배

aside_block: <ListValue: [StructValue([('title', '중요한 TPU 최적화 기법'), ('body', <wagtail.rich_text.RichText object at 0x7f162dba5cd0>), ('btn_text', ''), ('href', ''), ('image', None)])]>

결론

Google Cloud TPU v6e 아키텍처에서 Gemma 3 12B 및 27B 모델을 벤치마킹한 결과, 원시 파라미터 개수만으로는 추론 성능을 예측할 수 없으며 서빙 프레임워크, 하드웨어 토폴로지, 워크로드 토큰 비율 간의 상호작용이 효율성을 결정한다는 사실이 밝혀졌습니다. 생성 작업 (낮은 입력, 높은 출력)의 경우 12B 모델은 높은 동시 실행에서 우수한 성능을 보이며, 27B 모델이 4.12배에서 포화되는 반면 8.19배의 상대적 처리량 승수를 유지합니다. 반대로, 프리필이 많은 분류 작업의 경우 두 모델 모두 유사한 성능을 보이므로 조직은 심각한 확장 페널티 없이 더 큰 모델을 배포할 수 있습니다. 또한 평가를 통해 분류의 경우 64명의 사용자에서 엔드 투 엔드 지연 시간이 두 배로 늘어나고 생성의 경우 128명의 사용자에서 급격히 감소하는 등 정확한 하드웨어 포화 임곗값을 매핑하여 비용이 많이 드는 과도한 프로비저닝이 아닌 정확한 데이터 기반 자동 확장 트리거를 사용할 수 있게 되었습니다. 궁극적으로 이러한 최고 수준의 측정항목을 달성하려면 일괄 처리된 토큰을 조정하고 TPU별 버킷 패딩을 구성하여 컴퓨팅 낭비를 방지하는 등 vllm 파라미터를 적극적으로 튜닝해야 합니다. 이는 비용 효율적인 AI 인프라가 모델 선택 및 서빙 구성을 프로덕션 워크로드의 고유한 입력/출력 프로필에 엄격하게 맞춰야 함을 입증합니다.

LLM 워크로드를 확장할 준비가 되셨나요?

최적화되지 않은 인프라로 인해 엔터프라이즈 AI 출시가 지연되지 않도록 하세요. 다양한 워크로드 형태가 하드웨어 포화에 미치는 영향을 이해했으니 이제 이러한 인사이트를 실무에 적용할 차례입니다.

이러한 벤치마크를 사용하여 프로덕션 아키텍처의 크기를 적절하게 조정하세요. 처리량 손실 없이 사전 입력이 많은 분류 작업에 더 큰 Gemma 3 27B를 안전하게 활용할 수 있지만, 높은 동시 실행에서 디코딩이 많은 생성을 위해 선형 확장을 유지하려면 12B 모델로 전환하는 것이 좋습니다.
TPU v6e 노드 풀이 포함된 Google Kubernetes Engine (GKE) 를 사용하여 배포하여 확장성이 뛰어난 관리형 AI 기반과 전용 vllm-project/tpu-inference 하드웨어 플러그인을 빌드합니다. 또는 Gemini Enterprise Agent Platform의 Model Garden을 통해 배포하거나 TPU VM을 가동하여 Gemma 3 모델을 서빙할 수도 있습니다.

프로덕션 배포에서 비슷한 성능 장벽에 부딪힌 적이 있나요? Google Cloud 커뮤니티 포럼에서 확장 전략을 공유하고 질문하며 토론에 참여하세요.

Kotlin용 Google 생성형 AI SDK 1.0 발표: Gemini에 대한 관용적인 멀티플랫폼 액세스

Thu, 01 Oct 2026 19:00:00 +0000

Kotlin 애플리케이션에 최신 생성형 AI 기능을 통합하기 위해 원시 HTTP 클라이언트를 조작하거나 서로 다른 Java 라이브러리를 연결할 필요가 없습니다. 오늘 Kotlin용 Google 생성형 AI SDK 1.0 출시(google-genai-kotlin)를 발표하게 되어 기쁩니다. 지금 바로 GitHub의 googleapis/kotlin-genai에서 코드를 살펴보고, 실행 가능한 샘플을 탐색하고, 프로젝트에 별표를 표시할 수 있습니다.

Kotlin 멀티플랫폼(KMP) 라이브러리로 처음부터 빌드된 이 SDK는 JVM(백엔드 서비스, 서버리스 함수, 데스크톱)과 Android를 모두 타겟팅하는 개발자에게 관용적인 Kotlin 패러다임(퍼스트 클래스 코루틴, 비동기 Flow 스트리밍, 이름이 지정된 기본 파라미터가 있는 변경 불가능한 데이터 클래스 포함)을 제공합니다.

이 SDK는 최소한의 구성 조정으로 Gemini Developer API(Google AI Studio)와 Gemini Enterprise Agent Platform(Google Cloud 기반) 모두와 상호작용할 수 있는 통합 영역을 제공합니다.

1. 시작하기: 종속 항목 추가

SDK는 com.google.genai:google-genai-kotlin 아래의 Maven Central에 게시됩니다.

Kotlin 멀티플랫폼(KMP)

멀티플랫폼 애플리케이션의 경우 commonMain 소스 세트에 종속 항목을 추가합니다.

code_block: <ListValue: [StructValue([('code', '// build.gradle.kts\r\nkotlin {\r\n sourceSets {\r\n commonMain.dependencies {\r\n implementation("com.google.genai:google-genai-kotlin:1.0.0")\r\n }\r\n }\r\n}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162d7032d0>)])]>

표준 JVM 프로젝트

단일 플랫폼 Kotlin 프로젝트의 경우 Gradle은 Gradle 모듈 메타데이터를 통해 최적의 변형을 자동으로 선택합니다.

code_block: <ListValue: [StructValue([('code', '// build.gradle.kts\r\ndependencies {\r\n implementation("com.google.genai:google-genai-kotlin:1.0.0")\r\n}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc15d50>)])]>

2. 단항 및 스트리밍 텍스트 생성 및 채팅

기본 진입점은 Client 클래스입니다. 환경 변수(Google AI Studio의 경우 GEMINI_API_KEY 또는 GOOGLE_API_KEY, 표준 Google Cloud 애플리케이션 기본 사용자 인증 정보의 경우 GOOGLE_GENAI_USE_ENTERPRISE=true)를 기반으로 HTTP 연결 및 인증을 자동으로 관리합니다.

Gemini Flash를 사용한 단일 프롬프트 요청

Kotlin의 use 확장 프로그램을 사용하면 클라이언트의 기본 네트워크 엔진과 HTTP 연결이 깔끔하게 해제됩니다.

code_block: <ListValue: [StructValue([('code', 'import com.google.genai.kotlin.Client\r\nimport kotlinx.coroutines.runBlocking\r\n\r\nfun main() = runBlocking {\r\n Client().use { client ->\r\n val response = client.models.generateContent(\r\n model = "gemini-flash-latest",\r\n text = "Explain quantum entanglement in two sentences."\r\n )\r\n\r\n println(response.text)\r\n }\r\n}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc15290>)])]>

코루틴을 사용한 지연 시간이 짧은 스트리밍 `Flow`

대화형 UI 및 반응형 CLI 도구의 경우 generateContentStream은 콜드 Kotlin 코루틴 Flow<GenerateContentResponse>를 반환하여 토큰 청크를 실시간으로 전송합니다.

code_block: <ListValue: [StructValue([('code', 'import com.google.genai.kotlin.Client\r\nimport kotlinx.coroutines.runBlocking\r\n\r\nfun main() = runBlocking {\r\n Client().use { client ->\r\n val responseFlow = client.models.generateContentStream(\r\n model = "gemini-flash-latest",\r\n text = "Outline the key architectural patterns for microservices on Google Cloud."\r\n )\r\n\r\n responseFlow.collect { chunk ->\r\n chunk.text?.let { print(it) }\r\n }\r\n println()\r\n }\r\n}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc16010>)])]>

멀티턴 대화(채팅)

요청 차례마다 대화 기록을 수동으로 관리하는 것은 번거로울 수 있습니다. SDK에는 컨텍스트를 자동으로 유지하고, 대화를 추가하고, 대화 기록의 형식을 지정하고, 함수 호출을 처리하는 전용 chat 서비스가 포함되어 있습니다.

code_block: <ListValue: [StructValue([('code', 'import com.google.genai.kotlin.Client\r\nimport com.google.genai.kotlin.types.Content\r\nimport com.google.genai.kotlin.types.GenerateContentConfig\r\nimport kotlinx.coroutines.runBlocking\r\n\r\nfun main() = runBlocking {\r\n Client().use { client ->\r\n val config = GenerateContentConfig(\r\n systemInstruction = Content.fromText("You are an expert Google Cloud Solutions Architect.")\r\n )\r\n\r\n // Create a multi-turn chat session\r\n val chat = client.chats.create(\r\n model = "gemini-flash-latest",\r\n config = config\r\n )\r\n\r\n // Turn 1\r\n val firstResponse = chat.sendMessage("We are designing an event-driven ingestion pipeline on Google Cloud.")\r\n println("Gemini: ${firstResponse.text}\\n")\r\n\r\n // Turn 2: context from the first turn is included automatically\r\n val secondResponse = chat.sendMessage("Which managed messaging service should we choose: Pub/Sub or Kafka?")\r\n println("Gemini: ${secondResponse.text}\\n")\r\n }\r\n}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc14ed0>)])]>

chat.sendMessageStream(...)을 사용하여 멀티턴 채팅 대답을 스트리밍할 수도 있습니다.

3. Google 검색을 사용해 그라운딩된 멀티모달 분석

Gemini의 멀티모달 추론은 외부 검증과 결합할 때 특히 효과적입니다. 예를 들어 기술, 의료 또는 과학 다이어그램을 분석할 때 Google 검색 그라운딩을 연결하여 실시간 웹 소스와 사실 주장을 교차 검증할 수 있습니다.

code_block: <ListValue: [StructValue([('code', 'import com.google.genai.kotlin.Client\r\nimport com.google.genai.kotlin.types.*\r\nimport java.io.File\r\nimport kotlinx.coroutines.runBlocking\r\n\r\nfun main() = runBlocking {\r\n Client().use { client ->\r\n val imageBytes = File("src/main/resources/medical_diagram.png").readBytes()\r\n\r\n val content = Content(\r\n parts = listOf(\r\n Part(inlineData = Blob(mimeType = "image/png", data = imageBytes)),\r\n Part(text = "Is this anatomical diagram accurate? Verify labels against authoritative medical sources.")\r\n )\r\n )\r\n\r\n // Enable Google Search as a grounding tool\r\n val config = GenerateContentConfig(\r\n tools = listOf(Tool(googleSearch = GoogleSearch()))\r\n )\r\n\r\n val response = client.models.generateContent(\r\n model = "gemini-flash-latest",\r\n content = content,\r\n config = config\r\n )\r\n\r\n println("=== Analysis ===")\r\n println(response.text)\r\n\r\n // Inspect citations and search queries\r\n val grounding = response.groundingMetadata\r\n println("\\n=== Search Queries Executed ===")\r\n grounding?.webSearchQueries?.forEach { println("- $it") }\r\n\r\n println("\\n=== Grounding Sources ===")\r\n grounding?.groundingChunks?.mapNotNull { it.web }?.forEach { source ->\r\n println("- ${source.title}: ${source.uri}")\r\n }\r\n }\r\n}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc56390>)])]>

4. 시각적 생성 및 대화 기반 수정: Gemini 3 이미지 제품군

SDK는 Google의 최신 이미지 생성 모델(리더보드에서 Nano Banana 시리즈 모델로 널리 알려짐)을 완벽하게 지원합니다.

이미지 생성 및 저장

생성된 이미지 바이트는 대답 부분에서 Blob으로 직접 전달됩니다.

code_block: <ListValue: [StructValue([('code', 'import com.google.genai.kotlin.Client\r\nimport java.io.File\r\nimport kotlinx.coroutines.runBlocking\r\n\r\nfun main() = runBlocking {\r\n Client().use { client ->\r\n val response = client.models.generateContent(\r\n model = "gemini-3.1-flash-image", // Nano Banana 2\r\n text = "A photorealistic blueprint of an eco-friendly modern datacenter, isometric view, 4k"\r\n )\r\n\r\n val imagePart = response.parts?.firstOrNull { it.inlineData != null }\r\n imagePart?.inlineData?.data?.let { bytes ->\r\n File("datacenter_blueprint.png").writeBytes(bytes)\r\n println("Image generated and saved successfully.")\r\n }\r\n }\r\n}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc55510>)])]>

대화형 이미지 간 편집

동일한 요청에서 기존 이미지와 대화 기반 수정 요청 사항을 전달할 수 있습니다.

code_block: <ListValue: [StructValue([('code', 'val originalImage = File("input.png").readBytes()\r\n\r\nval editPrompt = Content(\r\n parts = listOf(\r\n Part(inlineData = Blob(mimeType = "image/png", data = originalImage)),\r\n Part(text = "Change the daylight illumination to a dramatic twilight skyline with illuminated windows.")\r\n )\r\n)\r\n\r\nval editResponse = client.models.generateContent(\r\n model = "gemini-3-pro-image", // Nano Banana Pro\r\n content = editPrompt\r\n)'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc56710>)])]>

5. Gemini Live와의 실시간 양방향 상호작용

지연 시간이 짧은 음성, 오디오, 실시간 멀티모달 상호작용을 위해 SDK는 client.live.connect(...)를 사용하여 지속적인 WebSocket 연결을 통해 Gemini Live API를 지원합니다.

code_block: <ListValue: [StructValue([('code', 'import com.google.genai.kotlin.Client\r\nimport com.google.genai.kotlin.types.AudioTranscriptionConfig\r\nimport com.google.genai.kotlin.types.LiveConnectConfig\r\nimport kotlinx.coroutines.launch\r\nimport kotlinx.coroutines.runBlocking\r\n\r\nfun main() = runBlocking {\r\n Client().use { client ->\r\n val model = if (client.enterprise) "gemini-live-2.5-flash-native-audio"\r\n else "gemini-3.1-flash-live-preview"\r\n\r\n val config = LiveConnectConfig(\r\n outputAudioTranscription = AudioTranscriptionConfig()\r\n )\r\n\r\n // Establish real-time bidirectional WebSocket session\r\n client.live.connect(model, config).use { session ->\r\n println("Connected to Gemini Live session!")\r\n\r\n // Launch collector for server messages (audio and text transcriptions)\r\n val receiveJob = launch {\r\n session.receive().collect { serverMessage ->\r\n serverMessage.serverContent?.outputTranscription?.text?.let { text ->\r\n print(text)\r\n }\r\n }\r\n }\r\n\r\n // Stream real-time text (or raw PCM audio blobs via session.sendRealtimeInput(audio = ...))\r\n session.sendRealtimeInput(text = "Hello Gemini! Give me a 5-second motivational quote.")\r\n\r\n // When finished, clean up\r\n receiveJob.cancel()\r\n session.closeSession()\r\n }\r\n }\r\n}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc56450>)])]>

6. 정형 도구 및 함수 호출

에이전트형 워크플로를 빌드하거나 LLM을 백엔드 마이크로서비스와 연결할 때 개발자는 FunctionDeclaration을 통해 정형 JSON 스키마를 전달할 수 있습니다. 모델은 도구를 호출할 시점을 지능적으로 선택합니다.

code_block: <ListValue: [StructValue([('code', 'val telemetryTool = FunctionDeclaration(\r\n name = "getDatacenterMetrics",\r\n description = "Fetch real-time CPU and thermal telemetry for a Google Cloud region",\r\n parameters = Schema(\r\n type = Type.OBJECT,\r\n properties = mapOf("region" to Schema(type = Type.STRING)),\r\n required = listOf("region")\r\n )\r\n)\r\n\r\nval response = client.models.generateContent(\r\n model = "gemini-flash-latest",\r\n text = "Check telemetry for europe-west1",\r\n config = GenerateContentConfig(\r\n tools = listOf(Tool(functionDeclarations = listOf(telemetryTool)))\r\n )\r\n)\r\n\r\nresponse.functionCalls?.firstOrNull()?.let { call ->\r\n println("Model triggered tool: ${call.name} with arguments: ${call.args}")\r\n}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc549d0>)])]>

또한 채팅 서비스를 사용할 때 자동 함수 호출(AFC)을 활용할 수 있습니다. 즉, 다음 예시에서 볼 수 있듯이 채팅 대화에서 선언된 함수를 SDK가 자동으로 투명하게 호출할 수 있습니다.

code_block: <ListValue: [StructValue([('code', 'fun main() = runBlocking {\r\n // A mocked function\r\n val getWeather = callableFunction("get_weather", paramName = "city") { city: String ->\r\n "18 degrees and sunny in $city"\r\n }\r\n\r\n Client().use { client ->\r\n val chat = client.chats.create(\r\n model = "gemini-flash-latest",\r\n automaticFunctionCalling = AutomaticFunctionCalling(getWeather),\r\n )\r\n\r\n // SDK calls get_weather if needed in this conversation\r\n println(chat.sendMessage("What is the weather in Zurich?").text)\r\n }\r\n}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc555d0>)])]>

다음 단계

Kotlin용 Google 생성형 AI SDK 1.0 출시로 백엔드 서버 생태계(Ktor, Spring Boot, Quarkus, Micronaut)와 모바일 애플리케이션 전반의 Kotlin 개발자는 이제 생성형 AI 애플리케이션을 빌드하기 위한 깔끔한 멀티플랫폼 기반을 갖추게 되었습니다.

자세히 알아보고 시작하려면 다음 리소스를 확인하세요.

GitHub 저장소: github.com/googleapis/kotlin-genai에서 소스, 별표, 토론을 확인하세요.
문서 및 샘플: Kotlin 생성형 AI 샘플 모음을 살펴보세요.
피드백: GitHub에서 직접 문제를 신고하거나, 기능을 제안하거나, pull 요청을 제출하세요.

Kotlin과 Gemini로 빌드할 멋진 결과물을 기대하겠습니다.

Spanner 마이그레이션: Antigravity CLI를 사용한 이중 쓰기 자동화로 중단 최소화

Thu, 01 Oct 2026 19:00:00 +0000

기존 데이터 레이어를 현대화해야 했던 Google의 재무 엔지니어링팀은 고가용성 기능을 제공하고 전 세계에 분산된 strong consistency를 갖춘 멀티모델 데이터베이스인 Spanner를 선택했습니다. 하지만 프로덕션 서비스를 오프라인으로 전환하지 않고 Spanner로 마이그레이션하는 것은 엔지니어링 측면에서 어려운 과제였습니다. 애플리케이션을 담당하는 내부 팀으로서 수십 개의 데이터 액세스 객체(DAO)에서 이중 쓰기 로직을 수동으로 다시 작성해야 했는데, 이 프로세스는 시간도 오래 걸리고 인적 오류가 빈번하게 발생했습니다. 또한 중단 없이 이 작업을 수행하려면 코드베이스의 모든 DAO에서 여러 단계에 걸쳐 이중 쓰기 아키텍처를 구현해야 했습니다.

이 문제를 해결하기 위해 다른 접근 방식을 취했습니다. 헤드리스 모드에서 Antigravity CLI를 사용하는 자동화된 리팩터링 파이프라인을 빌드했습니다. 이를 통해 프로덕션 환경을 준비하는 동안 스테이징 환경에서 엄격한 데이터 동등성을 유지하면서 마이그레이션 속도를 크게 높일 수 있었습니다.

과제: 이중 쓰기 마이그레이션의 구조

재무 정보 정확성이 필수적인 높은 처리량의 프로덕션 서비스를 마이그레이션할 때는 단순한 컷오버 스크립트로는 충분하지 않습니다. 모든 이전 데이터 백필 및 검증이 완료될 때까지 기존 데이터 스토어와 Spanner 양쪽에 동일한 쓰기 작업이 동시에 이루어지는지 확인해야 합니다.

마이그레이션은 다음과 같은 세 가지 단계로 구성했습니다.

이전 백필: 참조 무결성을 유지하면서 기존의 이전 기록을 Spanner에 복사합니다.
이중 쓰기/이중 읽기 구현: 마이그레이션 기간 동안 모든 DAO를 수정하여 기본 데이터 스토어와 Cloud Spanner에 모두 변경 사항을 동시에 기록합니다.
자동화된 API 검증 및 동등성 검사: RPC 트래픽을 가로채고 모든 쓰기 작업이 두 저장소에서 바이트 단위로 동일하게 기록되는지 엔드 투 엔드로 검증합니다.

아키텍처 패턴은 깔끔했지만 현재 규모에서는 마찰이 발생하기 시작했습니다. 각 DAO에는 다음이 필요하기 때문입니다.

복잡한 도메인 모델을 Spanner 스키마 열에 매핑하는 전용 MutationConverter 클래스
이중 쓰기 브랜치 처리 및 롤백 또는 오류 보고 로직
FakeTimeSource와 같은 가짜 시간 소스와 테스트 더블을 사용하여 기본 데이터 스토어와 Spanner에서 모두 쓰기 작업을 검증하는 단위 테스트 모음

30개가 넘는 DAO에 정밀도가 높은 이러한 코드 변경을 동일하게 수동으로 수행하려면 엔지니어링 작업에 수개월이 걸렸을 것입니다.

솔루션: 표준화된 변형 컨버터 패턴

자동화 파이프라인이 안정적으로 깔끔한 코드를 생성할 수 있는지 검증하기 위해 먼저 분리된 MutationConverter 인터페이스를 중심으로 DAO 리팩터링 패턴을 표준화했습니다.

핵심 DAO 비즈니스 로직 내에 원시 Spanner 테이블 이름과 열 할당을 직접 삽입하는 대신 Spanner 스키마 변환을 전용 컨버터 단위로 분리했습니다.

code_block: <ListValue: [StructValue([('code', '// Example of the standardized pattern generated by our pipeline\r\n\r\ntype BpcTransferAmountsMutationConverter interface {\r\n ToInsertMutation(entity *model.BpcTransferAmount) (*spanner.Mutation, error)\r\n ToUpdateMutation(entity *model.BpcTransferAmount) (*spanner.Mutation, error)\r\n}\r\n\r\ntype bpcTransferAmountsMutationConverterImpl struct {\r\n tableName string\r\n}\r\n\r\nfunc (c *bpcTransferAmountsMutationConverterImpl) ToInsertMutation(entity *model.BpcTransferAmount) (*spanner.Mutation, error) {\r\n if entity == nil {\r\n return nil, errors.New("entity cannot be nil")\r\n }\r\n \r\n // Map domain fields to Cloud Spanner table schema\r\n cols := []string{"TransferId", "AmountCents", "CurrencyCode", "LastModifiedTimestamp"}\r\n vals := []interface{}{\r\n entity.TransferId,\r\n entity.AmountCents,\r\n entity.CurrencyCode,\r\n spanner.CommitTimestamp, // Use Spanner commit timestamps\r\n }\r\n \r\n return spanner.Insert(c.tableName, cols, vals), nil\r\n}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162d702bd0>)])]>

DAO와 Spanner SDK(spanner.Mutation) 간에 엄격하고 결정론적인 계약을 수립함으로써 AI 코딩 에이전트가 추론하고 안정적으로 생성할 수 있는 정확한 대상 사양을 만들었습니다.

헤드리스 모드에서 Antigravity CLI를 사용하는 이유

IDE의 대화형 AI 채팅 인터페이스는 탐색적인 코딩 작업에는 적합하지만 전체 코드베이스에서 여러 파일을 체계적으로 업데이트하는 작업에는 적합하지 않습니다. 예외 상황을 놓치지 않으면서 수십 개의 대상에 반복 가능한 리팩터링을 적용해야 하는 경우 자동화된 워크플로가 필요합니다.

이에 따라 헤드리스 모드(-p)에서 Antigravity CLI를 실행하는 조정 스크립트(migration_ui.py)를 빌드하여 이 문제를 해결했습니다.

헤드리스 모드를 사용하면 수동으로 터미널에 프롬프트를 입력할 필요 없이 Antigravity를 셸 스크립트, 지속적 통합 파이프라인, 백그라운드 자동화 작업 내에서 직접 실행할 수 있습니다. 이러한 접근 방식을 통해 다음의 세 가지 주요 방향으로 작업을 확장할 수 있었습니다.

결정론적 프롬프트 아키텍처: 프롬프트를 버전 제어가 가능한 엔지니어링 아티팩트로 취급했습니다. 타임스탬프 직렬화, null 허용 여부 변환, 변형 모호성, FakeTimeSource 테스트 주입과 같은 일반적인 Spanner 예외 상황을 처리하기 위한 정확한 규칙을 재사용 가능한 프롬프트 템플릿에 직접 성문화했습니다.
일괄 실행 및 자동 검증: 조정 스크립트는 대상 DAO 이름을 입력으로 받아 기존의 단일 쓰기 소스 코드와 스키마를 가져온 후 구조적 규칙과 함께 헤드리스 모드의 Antigravity에 전달합니다. Antigravity는 새로운 컨버터, 리팩터링된 이중 쓰기 DAO, 해당 단위 테스트를 생성합니다. 그런 다음 스크립트가 Blaze 테스트를 실행합니다. 린터 오류 또는 테스트 어설션이 실패하면 오류 로그가 Antigravity에 직접 전달되어 자체 수정됩니다.
대규모 야간 실행: 루프가 무인으로 실행되므로 엔지니어는 하루 일과가 끝날 때 10개의 DAO를 큐에 추가할 수 있습니다. 그러면 다음 날 아침까지 파이프라인은 10개의 변경 목록을 생성, 테스트, 검증하여 사람이 코드 검토를 할 수 있도록 준비합니다.

결과 및 클라우드 엔지니어를 위한 핵심 내용 정리

Spanner의 분산 데이터베이스 기본 요소와 Antigravity CLI의 헤드리스 자동화를 결합한 결과, 엔지니어링 조직 전반에서 다음과 같은 분명한 이점을 얻을 수 있었습니다.

마이그레이션 작업량 대폭 감소: 이전에는 광범위한 수동 코딩과 테스트가 필요했던 DAO 이중 쓰기 마이그레이션이 훨씬 짧은 시간 내에 완료되고 검토되었습니다.
높은 안정성의 데이터 마이그레이션: 생성된 모든 DAO가 동일한 테스트를 거친 MutationConverter 패턴을 준수하고 Spanner 테스트 더블에 대한 자동화된 단위 테스트를 거쳤기 때문에 광범위한 마이그레이션 테스트 중에도 높은 수준의 데이터 충실도를 유지할 수 있었습니다.
더 가치 있는 엔지니어링 업무에 집중: 엔지니어는 반복적인 상용구 리팩터링을 피하고 데이터 모델링, 아키텍처 복원력, 성능 최적화 등에 집중할 수 있는 시간을 확보했습니다.

다음 데이터베이스 마이그레이션을 위한 3가지 팁

스키마 변환을 먼저 분리: 마이그레이션 스크립트를 작성하기 전에 기존 비즈니스 로직에서 새로운 클라우드 데이터베이스 SDK 요구사항을 격리하는 엄격한 인터페이스(예: MutationConverter)를 정의하세요. AI 에이전트는 명확하고 제한된 설계 패턴이 주어질 때 가장 효과적으로 작동합니다.
양방향 채팅에서 헤드리스 자동화로 전환: 3~4개 이상의 파일에서 반복적인 리팩터링을 실행할 때는 스크립트 기반의 헤드리스 워크플로에 투자하세요. 프롬프트 입력과 테스트 검증을 자동화된 빌드 단계로 처리하면 품질과 일관성을 유지하는 데 도움이 됩니다.
빌드 시스템을 가드레일로 활용: AI 생성 루프를 빌드 및 테스트 하네스(bazel test 또는 go test)에 직접 연결하세요. 이를 통해 모델은 개발자가 코드를 검토하기 전에 컴파일 및 어설션 오류를 수정할 수 있습니다.

시작하기

금융 시스템을 마이그레이션하는 경우에도, 클라우드 네이티브 애플리케이션을 처음부터 빌드하는 경우에도 Spanner와 Antigravity는 확장 가능한 소프트웨어 개발을 위한 기반을 제공합니다.

Cloud Spanner 살펴보기: Google Cloud Spanner 문서에서 Spanner의 분산 아키텍처에 대해 자세히 알아보세요.
개발자를 위한 Gemini 알아보기: 개발자를 위한 Google Cloud AI에서 AI 지원 코딩과 헤드리스 CLI 자동화가 엔지니어링 워크플로에 어떤 도움이 되는지 알아보세요.

하나의 툴킷으로 Antigravity SDK를 사용하여 에이전트 허브 또는 커스텀 하네스 지원

Thu, 01 Oct 2026 19:00:00 +0000

엔터프라이즈 에이전트를 도입하는 방식은 한 가지가 아닙니다. 많은 팀이 턴키 에이전트 배포 및 거버넌스를 위해 Gemini Enterprise Agent Platform과 같은 관리형 상용 플랫폼을 선택하지만, 맞춤형 워크플로 또는 커스텀 실행 엔진을 사용하는 개발자는 자체 경량 에이전트 허브를 빌드하는 경우가 많습니다.

중앙 집중식 에이전트 허브를 처음부터 빌드하려면 예측 가능하게 실행되고, 모든 활동을 로깅하며, 샌드박스를 벗어나지 않는 도구가 필요합니다. Antigravity SDK는 Antigravity 2.0 및 Antigravity CLI에서 사용되는 정확한 런타임 엔진을 제공하여 선언적 안전 정책, 실시간 원격 분석, 스테이트풀(Stateful) 멀티턴 지속성을 애플리케이션에 바로 추가할 수 있습니다. 핵심 런타임이 업데이트되면 SDK 에이전트에 이러한 최적화가 자동으로 적용됩니다. 그래서 오늘은 Antigravity SDK가 어떻게 완전한 멀티 에이전트 컨트롤 플레인을 지원하는지 자세히 살펴보겠습니다.

Antigravity의 구성

멀티 에이전트 컨트롤 플레인은 LLM 워크로드를 모니터링하고 관리합니다. 이를 통해 에이전트가 어떻게 사고하고, 어떤 도구를 호출하며, 상태를 어떻게 저장하는지 정확히 파악할 수 있습니다.

두 가지 핵심 구성요소로 이루어져 있습니다.

1. Antigravity SDK 에이전트 코어: 모델 상호작용(예: Gemini 3.1 Pro 및 Gemini 3.8 Flash)을 관리하고, 도구를 실행하고, 사고 trace를 생성하고, 스킬을 실행하는 런타임입니다.

2. 관측 가능성 및 원격 분석 미들웨어: Antigravity SDK 수명 주기 후크로 구동되는 이벤트 기반 레이어입니다. 단계 시작, 사고 업데이트, 도구 호출과 같은 에이전트 작업을 가로채고 WebSockets를 통해 대시보드로 원격 분석을 스트리밍합니다.

사용 사례: 멀티 에이전트 모니터링 및 대화형 제어

조직에서 커스텀 에이전트 허브를 빌드하거나 유지관리하면서 Antigravity SDK 기반 에이전트를 통합하려는 시나리오를 살펴보겠습니다.

문제: 운영 엔지니어가 백그라운드 조사, 문서 요약, 작업 예약을 수행하는 여러 활성 에이전트(예: gemini-pro-agent, github-agent, email-agent)를 모니터링해야 합니다. 기존에는 에이전트 진행 상황을 관찰하려면 다음과 같은 작업이 필요했습니다.

여러 터미널 창에서 분산된 콘솔 로그 추적
JSON 스크립트를 직접 검사하여 중단되거나 실패한 도구 호출 진단
특정 에이전트 세션에 어떤 스킬 또는 MCP 커넥터가 로드되었는지에 대한 가시성 부족
누적 토큰 사용량 및 실행 지연 시간 추적의 어려움

솔루션: 이 게시물에서는 실시간 관찰을 위한 스트리밍 API, 원격 분석 및 가로채기를 위한 수명 주기 후크, 조정을 위한 정책 엔진, 기능 관리를 위한 스킬, 지속성을 위한 세션 상태를 각각 살펴봅니다. SDK 기반 대시보드를 통해 운영자는 모든 에이전트의 활동을 한눈에 파악할 수 있습니다.

백그라운드에서 어떤 일이 일어날까요?운영자 또는 대시보드가 Antigravity 에이전트와 상호작용할 때 런타임은 5가지 핵심 메커니즘을 통해 실행을 조정합니다.

세션 초기화 및 상태 연결(save_dir 및 conversation_id):런타임은 세션을 초기화하거나 다시 연결하여 실행을 루트 save_dir에 바인딩합니다. 멀티턴 궤적 로그, 도구 실행 기록, 아티팩트는 지속적인 감사가 가능하도록 traj-<conversation_id>에 보존됩니다.
스킬 확인(skills_paths): 도메인별 기능과 요청 사항은 SKILL.md 번들을 가리키는 파일 시스템 경로에서 직접 확인되어 외부 레지스트리 없이 에이전트의 시스템 프롬프트를 동적으로 보강합니다.
동시 스트림 생성(ChatResponse): 런타임은 단일 모델 응답에 대해 다음 세 가지 동시 비동기 반복자를 노출합니다.

response(표시되는 텍스트 토큰 생성)
response.thoughts(내부 생각의 사슬 추론 델타 생성)
response.tool_calls(.name 및 .args가 포함된 형식화된 ToolCall 이벤트 생성)

선언적 샌드박싱 및 기본 제공 도구 실행: 에이전트가 워크스페이스 작업을 수행할 때 기본 제공 도구(list_directory, find_file, search_directory, view_file, create_file, edit_file)는 안전 정책(예: policy.workspace_only())에 의거하여 구성된 워크스페이스 디렉터리 내에서만 엄격하게 실행됩니다.
수명 주기 후크를 통한 원격 분석 가로채기:데코레이션된 비동기 후크 함수(@hooks.on_session_start, @hooks.pre_tool_call_decide, @hooks.post_tool_call, @hooks.on_session_end)가 에이전트 전환을 실시간으로 가로채고, 도구 호출을 검증하거나 수정하며, WebSocket을 통해 원격 분석 페이로드를 라이브 대시보드로 브로드캐스트합니다.

Antigravity SDK는 이러한 책임을 네 가지 핵심 요소로 구성합니다.

1. 스킬을 통한 모듈식 기능

스킬은 에이전트가 동적으로 로드하는 재사용 가능한 도메인별 요청 사항 번들과 참조 애셋을 제공합니다. 인메모리 레지스트리를 관리하는 대신 SKILL.md 파일이 포함된 파일 시스템 디렉터리에서 직접 스킬을 확인합니다.

code_block: <ListValue: [StructValue([('code', 'from google.antigravity import Agent, LocalAgentConfig\r\n\r\n# Pass directory paths containing SKILL.md bundles directly to config.\r\n# The runtime dynamically resolves and injects them into the prompt.\r\nconfig = LocalAgentConfig(\r\n model="gemini-3.8-flash",\r\n system_instructions=(\r\n "You are an enterprise operations assistant equipped with "\r\n "specialized operational skills."\r\n ),\r\n skills_paths=["./skills/research", "./skills/code_review"],\r\n)\r\n\r\nasync with Agent(config) as agent:\r\n response = await agent.chat("Analyze the deployment logs.")'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162db9f990>)])]>

2. 샌드박싱된 기본 제공 도구 및 작업공간 범위 지정

SDK는 프로덕션에 즉시 사용 가능한 파일 및 작업공간 도구를 제공하므로 커스텀 파일 시스템 래퍼를 작성할 필요가 없습니다. workspaces 및 선언적 안전 정책과 함께 사용하면 도구가 승인된 디렉터리로 엄격하게 제한됩니다.

code_block: <ListValue: [StructValue([('code', 'from google.antigravity import Agent, LocalAgentConfig, types\r\nfrom google.antigravity.policies import policy\r\n\r\nconfig = LocalAgentConfig(\r\n model="gemini-3.8-flash",\r\n # Selectively enable built-in tools via CapabilitiesConfig\r\n capabilities=types.CapabilitiesConfig(\r\n enabled_tools=[\r\n types.BuiltinTools.LIST_DIR, # "list_directory"\r\n types.BuiltinTools.FIND_FILE, # "find_file"\r\n types.BuiltinTools.SEARCH_DIR, # "search_directory"\r\n types.BuiltinTools.VIEW_FILE, # "view_file"\r\n types.BuiltinTools.CREATE_FILE, # "create_file"\r\n types.BuiltinTools.EDIT_FILE, # "edit_file"\r\n ]\r\n ),\r\n # Enforce filesystem isolation: operations outside these paths are blocked\r\n workspaces=["./workspace"],\r\n policies=[policy.workspace_only()],\r\n)'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dbe52d0>)])]>

3. 세션 격리 및 궤적 지속성(`save_dir` 및 `conversation_id`)

Antigravity SDK의 상태 지속성은 외부 데이터베이스가 아닌 선언적 구성을 통해 관리됩니다. save_dir을 지정하면 전체 턴 궤적, 도구 실행 기록, 아티팩트가 traj-<conversation_id> 아래에 보존되는 루트 디렉터리가 설정됩니다.

code_block: <ListValue: [StructValue([('code', 'from google.antigravity import Agent, LocalAgentConfig\r\n\r\nconfig = LocalAgentConfig(\r\n model="gemini-3.8-flash",\r\n # Root directory storing all conversation trajectories\r\n save_dir="./storage/sessions",\r\n # Supply conversation_id to reattach to an existing trajectory;\r\n # omit it to let the SDK mint a new ID on the first turn.\r\n conversation_id="ops-session-20260820-001",\r\n)\r\n\r\nasync with Agent(config) as agent:\r\n # Resumes prior context and continues the multi-turn session seamlessly\r\n response = await agent.chat("Summarize the issues identified in the last turn.")'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dbe50d0>)])]>

4. 수명 주기 후크를 사용한 실시간 원격 분석 및 가로채기

수명 주기 후크를 사용하면 대시보드와 모니터링 엔진이 실행의 모든 단계를 관찰하고 조정할 수 있습니다. 데코레이션된 비동기 함수를 사용하면 WebSocket을 통해 상태 업데이트를 스트리밍하고, 도구 파라미터를 검사하고, 도구가 실행되기 전에 휴먼인더루프 승인을 적용할 수 있습니다.

code_block: <ListValue: [StructValue([('code', 'from google.antigravity import Agent, LocalAgentConfig, types\r\nfrom google.antigravity.hooks import hooks\r\n\r\n# 1. Session start & end telemetry\r\n@hooks.on_session_start\r\nasync def on_session_start():\r\n broadcast_to_dashboard({"type": "STATUS", "status": "RUNNING"})\r\n\r\n@hooks.on_session_end\r\nasync def on_session_end():\r\n broadcast_to_dashboard({"type": "STATUS", "status": "IDLE"})\r\n\r\n# 2. Intercept tool calls before execution (human-in-the-loop / audit gate)\r\n@hooks.pre_tool_call_decide\r\nasync def intercept_tool(tool_call: types.ToolCall) -> types.HookResult:\r\n broadcast_to_dashboard({\r\n "type": "TOOL_CALL",\r\n "tool": tool_call.name,\r\n "args": tool_call.args,\r\n })\r\n # Return HookResult to approve or block execution\r\n return types.HookResult(allow=True)\r\n\r\n# 3. Post-execution tool receipts\r\n@hooks.post_tool_call\r\nasync def record_tool_result(result):\r\n broadcast_to_dashboard({\r\n "type": "TOOL_RESULT",\r\n "tool": result.name,\r\n "error": getattr(result, "error", None),\r\n })\r\n\r\nconfig = LocalAgentConfig(\r\n model="gemini-3.8-flash",\r\n hooks=[on_session_start, on_session_end, intercept_tool, record_tool_result],\r\n)'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162db4d890>)])]>

시작하기

다음 리소스를 활용하여 자체 엔터프라이즈 에이전트 컨트롤 플레인을 시작하세요.

AI 코딩 에이전트를 위한 Google Cloud Developer 플러그인 소개

Thu, 01 Oct 2026 19:00:00 +0000

에이전트 스킬은 문서 및 원격 MCP 서버와 함께 AI 워크플로의 성공을 지원하는 방법으로 적합합니다. 특정 사용 사례에서 컨텍스트 윈도우 사용량을 줄여줄 뿐만 아니라, 설치 방법도 매우 간단합니다. 하지만 개별 스킬을 하나씩 관리하는 것이 번거롭거나, 특정 스킬은 다른 기술이나 MCP 서버와 함께 동일한 목표를 위해 작동할 때 가장 유용하다는 점을 이미 느끼셨을 수도 있습니다. 이때 플러그인이 도움이 됩니다.

오늘 AI 코딩 에이전트를 위한 새로운 Google Cloud 플러그인 출시 소식을 전하게 되어 기쁩니다. 설치 가능한 번들 형태로 설계된 에이전트 플러그인은 선택한 AI 에이전트에 필요한 스킬과 도구를 장착해 주어, Google Cloud에서 더욱 효과적으로 업무를 수행할 수 있도록 지원합니다.

도구 결합 문제 해결

코딩 에이전트의 사용을 확대하다 보면 관련 스킬을 함께 사용하거나 보완적인 컨텍스트 및 도구와 함께 사용할 때 에이전트의 기능이 크게 향상된다는 것을 알 수 있습니다. 예를 들어 인프라를 분석하는 에이전트는 도메인 지식, 워크플로 추천, 라이브 환경과의 상호작용 기능을 결합할 때 더 효과적입니다.

플러그인은 관련 기능을 응집력 있고 설치 가능한 번들로 패키징하여 이러한 결합 문제를 해결합니다. 이를 통해 복잡한 종속 항목을 관리할 필요 없이 폭넓은 기본 기능과 심층적인 제품별 도구를 모두 활용할 수 있습니다.

이번 출시에서는 모든 Google Cloud 사용자를 위한 에이전트 기능을 지원하는 기본 플러그인부터 시작하여 에이전트가 Google Cloud 관련 기술을 더 쉽게 검색하고, 공식 문서를 활용하며, Google Cloud와의 프로그래매틱 상호작용을 처리할 수 있도록 하는 데 중점을 두었습니다.

개방형 표준을 기반으로 빌드

또한 에이전트 스킬과 모델 컨텍스트 프로토콜(MCP) 서버를 이식 가능하고 상호 운용 가능한 단위로 패키징하기 위한 공급업체 중립적인 개방형 표준인 에이전트 플러그인 사양을 준수하여 플러그인을 빌드했습니다. 에이전트 플러그인 표준은 개발자가 모든 AI 어시스턴트에 대해 서로 다른 구성과 래퍼를 유지할 필요 없이 통합된 매니페스트와 디렉터리 구조를 제공합니다.

Google Cloud 플러그인은 이 표준을 채택하여, 개발자가 어떠한 AI 코딩 환경에서도 Google Cloud를 활용해 성공적인 결과를 얻을 수 있도록 일관된 고품질 도구 액세스를 보장합니다. 여기에는 오늘 설명하는 플러그인뿐만 아니라 Google 에이전트 스킬 저장소에 게시된 다른 모든 플러그인도 포함됩니다.

Google 에이전트 스킬 저장소에 방금 게시한 대표 플러그인인 google-cloud-developer를 살펴보겠습니다. 이 플러그인은 에이전트가 인증, 권한 부여, 프로젝트 관리, gcloud CLI 작업 가이드라인과 같은 Google Cloud 상호작용의 기본 사항을 원활하게 수행할 수 있도록 돕기 위해 만들어졌습니다. 또한 이 플러그인에는 Developer Knowledge MCP 서버를 위한 설정이 포함되어 있어, 에이전트가 Google의 공식 개발자 문서를 바탕으로 정확하고 최신화된 답변을 제공할 수 있도록 돕습니다.

플러그인 작동 방식: 프로젝트 온보딩 및 ID 인증

이 플러그인이 어떻게 작동하는지 알아보기 위해 스크립트 작성 과정의 일환으로 새로운 프로젝트를 부트스트래핑하는 상황을 가정해 보겠습니다. google-cloud-developer 플러그인이 설치되어 있으면 에이전트에 다음과 같이 프롬프트를 입력할 수 있습니다.

이 플랫폼은 처음 사용해 보는데, 계정을 만들고 결제 설정까지 완료된 첫 번째 프로젝트를 만들어야 해. 그런 다음에 작성하고 있는 스크립트가 사용자 계정이 아닌 서비스 ID로 API를 호출할 수 있도록 로컬 머신을 인증해야 해.

환경 인식: 에이전트는 사용자의 실제 환경에서 CLI 가용성이나 기존 프로젝트 및 조직 유무와 같은 기본 요건을 백그라운드에서 자동으로 확인합니다.
검토: 에이전트는 우발적인 키 유출이나 Git 커밋 등 프롬프트 실행 과정에서 발생할 수 있는 위험을 방지하기 위해 IAM 권장사항을 검토합니다.
가드레일 상호작용: 에이전트는 워크플로 로드맵을 제시하고, 리소스를 수정하기 전에 해당 단계들을 실행할지 사용자에게 확인합니다.

Google Cloud 플러그인 설치

Google Cloud 플러그인은 개방형 Google 에이전트 스킬 저장소에서 사용할 수 있으며 표준 에이전트 플러그인 레이아웃을 준수하므로 환경에 간편하게 추가할 수 있습니다. 예를 들어 google-cloud-developer 플러그인을 설치하는 방법은 다음과 같습니다.

Antigravity CLI

Google 에이전트 스킬 저장소에 있는 경로를 활용해 CLI에서 플러그인을 직접 설치해 보세요.

code_block: <ListValue: [StructValue([('code', 'agy plugin install https://github.com/google/skills/plugins/cloud/google-cloud-developer'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162d70c790>)])]>

gcloud CLI를 사용하여 Google Cloud 프로젝트에서 Developer Knowledge API를 활성화하세요:

code_block: <ListValue: [StructValue([('code', 'gcloud services enable developerknowledge.googleapis.com --project=<YOUR_PROJECT_ID>'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc27550>)])]>

Claude Code

Google 플러그인 마켓플레이스를 추가한 후 플러그인을 설치합니다.

code_block: <ListValue: [StructValue([('code', 'claude plugin marketplace add google/skills\r\nclaude plugin install google-cloud-developer@google-plugins'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc27210>)])]>

gcloud CLI를 사용하여 Google Cloud 프로젝트에서 Developer Knowledge API를 활성화하세요:

code_block: <ListValue: [StructValue([('code', 'gcloud services enable developerknowledge.googleapis.com --project=<YOUR_PROJECT_ID>'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc27010>)])]>

'API 키 생성 및 보안(Create and secure the API key)' 지침에 따라 Developer Knowledge API용 API 키를 생성하세요. 생성한 키는 안전한 곳에 저장해야 합니다.

Claude Code를 시작하기 전에 환경에 API 키를 내보내기(export) 하세요:

code_block: <ListValue: [StructValue([('code', 'export DEVELOPERKNOWLEDGE_API_KEY=<YOUR_API_KEY>'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc24150>)])]>

참고: Claude Code를 시작하기 전에 환경에 DEVELOPERKNOWLEDGE_API_KEY 환경 변수가 설정되어 있어야 합니다. 편의를 위해 사용 중인 쉘의 시작 스크립트(예: .bashrc, .zshrc)에 이 export 명령을 추가하는 것을 권장합니다.

Codex CLI

Google 플러그인 마켓플레이스를 추가한 후 플러그인을 설치합니다.

code_block: <ListValue: [StructValue([('code', 'codex plugin marketplace add google/skills\r\ncodex plugin add google-cloud-developer@google-plugins'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc26b10>)])]>

gcloud CLI를 사용하여 Google Cloud 프로젝트에서 Developer Knowledge API를 활성화하세요:

code_block: <ListValue: [StructValue([('code', 'gcloud services enable developerknowledge.googleapis.com --project=<YOUR_PROJECT_ID>'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc26d90>)])]>

'API 키 생성 및 보안(Create and secure the API key)' 지침에 따라 Developer Knowledge API용 API 키를 생성하세요. 생성한 키는 안전한 곳에 저장해야 합니다.

~/.codex/config.toml (또는 프로젝트의 .codex/config.toml) 파일을 업데이트하여 다음 내용을 추가하고 Developer Knowledge MCP 서버에 대한 인증된 액세스를 활성화하세요:

code_block: <ListValue: [StructValue([('code', '[mcp_servers.developer-knowledge]\r\n url = "https://developerknowledge.googleapis.com/mcp"\r\n env_http_headers = { "X-Goog-Api-Key" = "DEVELOPERKNOWLEDGE_API_KEY" }'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc49bd0>)])]>

Codex를 시작하기 전에 환경에 API 키를 내보내기(export) 하세요:

code_block: <ListValue: [StructValue([('code', 'export DEVELOPERKNOWLEDGE_API_KEY=<YOUR_API_KEY>'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc486d0>)])]>

참고: Codex를 시작하기 전에 환경에 DEVELOPERKNOWLEDGE_API_KEY 환경 변수가 설정되어 있어야 합니다. 편의를 위해 사용 중인 쉘의 시작 스크립트(예: .bashrc, .zshrc)에 이 export 명령을 추가하는 것을 권장합니다.

참고: 이 구성 업데이트를 수행한 후 Developer Knowledge MCP 서버의 상태가 '로그인되지 않음(not logged in)'으로 표시될 수 있으나, 이는 예상된 동작이며 서버 액세스에 영향을 주지 않습니다.

다음 단계

이미 Google Cloud를 사용 중이라면, 위의 설치 단계를 따라 에이전트가 최상의 성능을 발휘할 수 있도록 설정해 보세요. 직접 경험해 보시면 분명 만족하실 것입니다. 조금 더 차근차근 따라 해보고 싶은 분들을 위해, 새로운 codelab에서 Antigravity 플러그인 설치부터 초기 탐색까지 상세히 안내해 드립니다.

Google Cloud를 처음 사용하는 경우 Google Cloud 문서의 안내를 참고하여 로컬 개발 환경을 설정하고 시작하실 수 있습니다.

더 자세한 내용이 궁금하다면 Google 에이전트 스킬 저장소에서 현재 제공되는 플러그인과 에이전트 스킬을 더욱 심도 있게 살펴보시기 바랍니다.

GPU 실험: GKE 관리형 DRANET 및 Inference Gateway AI 배포

Thu, 01 Oct 2026 18:00:00 +0000

인프라에서 모델을 빌드하고 서빙하는 것은 비즈니스에 강력한 사용 사례입니다. Google Cloud에서는 워크로드에 맞게 AI 인프라를 설계할 수 있습니다. 최근에 GKE에서 NVIDIA B200 GPU를 사용하여 추론을 위한 모델을 배포하는 동안 Google Kubernetes Engine (GKE) 관리형 DRANET를 실험해 보았습니다. 이 블로그에서는 따라하기 쉬운 단계로 이 설정을 살펴보겠습니다.

DRANET이란 무엇인가요?

동적 리소스 할당 (DRA)은 포드 간에 리소스를 요청하고 공유할 수 있는 기능입니다. DRANET을 사용하면 TPU 및 원격 직접 메모리 액세스 (RDMA)를 지원하는 네트워크 인터페이스를 포함하여 포드의 네트워킹 리소스를 요청하고 할당할 수 있습니다. 저의 경우 고급 GPU를 사용합니다.

GPU RDMA VPC 작동 방식

RDMA 네트워크는 리전별로 격리된 VPC로 설정되며 네트워크 프로필 유형이 할당됩니다. 이 경우 네트워크 프로필 유형은 RoCEv2입니다. 이 VPC는 GPU 간 통신 전용입니다. GPU VM 제품군에는 RDMA VPC에 연결되는 RDMA 지원 NIC가 있습니다. GPU는 이 저지연 고속 레일 정렬 설정을 통해 여러 노드 간에 통신합니다.

설계 패턴 예시

목표는 8개의 B200 GPU를 지원하는 A4 노드가 있는 GKE 클러스터에 LLM 모델 (Deepseek)을 배포하고 GKE 추론 게이트웨이를 통해 비공개로 서빙하는 것이었습니다. AI Hypercomputer GKE 클러스터를 설정하려면 클러스터 툴킷을 사용할 수 있지만, 저는 GPU 통신을 위한 RDMA를 지원하는 네트워킹의 GKE 관리 DRANET 동적 설정을 테스트하고 싶었습니다.

이 설계는 엔드 투 엔드 솔루션을 제공하기 위해 다음 서비스를 활용합니다.

VPC: 총 3개의 VPC 수동으로 생성된 VPC 1개, GKE 관리 DRANET에서 자동으로 생성된 VPC 2개(표준 1개, RDMA용 1개)
GKE: 워크로드를 배포합니다.
GKE 추론 게이트웨이: 리전 내부 애플리케이션 부하 분산기 유형 gke-l7-rilb를 사용하여 워크로드를 내부적으로 노출합니다.
A4 VM: NVIDIA B200 GPU를 통해 RoCEv2를 지원합니다.

종합

A4 VM에 액세스하기 위해 미래용 예약이 사용되었습니다. 이는 특정 영역에 연결됩니다.

시작: 환경 설정

예약과 동일한 영역에 방화벽 규칙과 서브넷이 있는 표준 VPC를 만듭니다.
GKE 추론 게이트웨이에 연결된 내부 리전 애플리케이션 부하 분산기에 사용될 프록시 전용 서브넷을 만듭니다.

다음: 표준 GKE 클러스터 노드 및 기본 노드 풀 만들기

code_block: <ListValue: [StructValue([('code', 'gcloud container clusters create $CLUSTER_NAME \\\r\n --location=$ZONE \\\r\n --num-nodes=1 \\\r\n --machine-type=e2-standard-16 \\\r\n --network=${GVNIC_NETWORK_PREFIX}-main \\\r\n --subnetwork=${GVNIC_NETWORK_PREFIX}-sub \\\r\n --release-channel rapid \\\r\n --enable-dataplane-v2 \\\r\n --enable-ip-alias \\\r\n --addons=HttpLoadBalancing,RayOperator \\\r\n --gateway-api=standard \\\r\n --enable-ray-cluster-logging \\\r\n --enable-ray-cluster-monitoring \\\r\n --enable-managed-prometheus \\\r\n --enable-dataplane-v2-metrics \\\r\n --monitoring=SYSTEM'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162d9da050>)])]>

완료되면 클러스터에 연결할 수 있습니다.

code_block: <ListValue: [StructValue([('code', 'gcloud container clusters get-credentials $CLUSTER_NAME --zone $ZONE --project $PROJECT'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc26390>)])]>

GPU 노드 풀을 만듭니다 (이 예에서는 예약이 포함된 A4 VM을 사용함). 추가 플래그:

---accelerator-network-profile=auto (GKE가 노드에 gke.networks.io/accelerator-network-profile: auto 라벨을 자동으로 추가함)

--node-labels=cloud.google.com/gke-networking-dra-driver=true (고성능 네트워킹을 위한 DRA 사용 설정)

code_block: <ListValue: [StructValue([('code', 'gcloud beta container node-pools create $NODE_POOL_NAME \\\r\n --cluster $CLUSTER_NAME \\\r\n --location $ZONE \\\r\n --node-locations $ZONE \\\r\n --machine-type a4-highgpu-8g \\\r\n --accelerator type=nvidia-b200,count=8,gpu-driver-version=latest \\\r\n --enable-autoscaling --num-nodes=1 --total-min-nodes=1 --total-max-nodes=3 \\\r\n --reservation-affinity=specific \\\r\n--reservation=projects/$PROJECT/reservations/$RESERVATION_NAME/reservationBlocks/$BLOCK_NAME \\\r\n --accelerator-network-profile=auto \\\r\n--node-labels=cloud.google.com/gke-networking-dra-driver=true'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc0b5d0>)])]>

다음 단계: 네트워킹 리소스를 배포에 연결하는 데 사용될 ResourceClaimTemplate을 만듭니다. deviceClassName: mrdma.google.com 은 GPU 워크로드에 사용됩니다.

code_block: <ListValue: [StructValue([('code', 'apiVersion: resource.k8s.io/v1\r\nkind: ResourceClaimTemplate\r\nmetadata:\r\n name: all-mrdma\r\nspec:\r\n spec:\r\n devices:\r\n requests:\r\n - name: req-mrdma\r\n exactly:\r\n deviceClassName: mrdma.google.com\r\n allocationMode: All'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dca0450>)])]>

모델 및 추론 배포

이제 클러스터와 노드 풀이 설정되었으므로 모델을 배포하고 추론 게이트웨이를 통해 제공할 수 있습니다. 실험에서는 DeepSeek를 사용했지만 어떤 모델이든 사용할 수 있습니다.

모델 및 서비스 배포

nodeSelector: gke.networks.io/accelerator-network-profile: auto는 GPU 노드에 할당하는 데 사용됩니다.
resourceClaims: 네트워킹을 위해 정의한 리소스를 연결합니다.

보안 비밀 만들기 (Hugging Face 토큰 사용):

code_block: <ListValue: [StructValue([('code', 'kubectl create secret generic hf-secret \\\r\n --from-literal=hf_token=${HF_TOKEN}'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc0d310>)])]>

Deployment

code_block: <ListValue: [StructValue([('code', 'apiVersion: apps/v1\r\nkind: Deployment\r\nmetadata:\r\n name: deepseek-v3-1-deploy\r\nspec:\r\n replicas: 1\r\n selector:\r\n matchLabels:\r\n app: deepseek-v3-1\r\n template:\r\n metadata:\r\n labels:\r\n app: deepseek-v3-1\r\n ai.gke.io/model: deepseek-v3-1\r\n ai.gke.io/inference-server: vllm\r\n examples.ai.gke.io/source: user-guide\r\n spec:\r\n containers:\r\n - name: vllm-inference\r\n image: us-docker.pkg.dev/vertex-ai/vertex-vision-model-garden-dockers/pytorch-vllm-serve:20250819_0916_RC01\r\n resources:\r\n requests:\r\n cpu: "190"\r\n memory: "1800Gi"\r\n ephemeral-storage: "1Ti"\r\n nvidia.com/gpu: "8"\r\n limits:\r\n cpu: "190"\r\n memory: "1800Gi"\r\n ephemeral-storage: "1Ti"\r\n nvidia.com/gpu: "8"\r\n claims:\r\n - name: rdma-claim\r\n command: ["python3", "-m", "vllm.entrypoints.openai.api_server"]\r\n args:\r\n - --model=$(MODEL_ID)\r\n - --tensor-parallel-size=8\r\n - --host=0.0.0.0\r\n - --port=8000\r\n - --max-model-len=32768\r\n - --max-num-seqs=32\r\n - --gpu-memory-utilization=0.90\r\n - --enable-chunked-prefill\r\n - --enforce-eager\r\n - --trust-remote-code\r\n env:\r\n - name: MODEL_ID\r\n value: deepseek-ai/DeepSeek-V3.1\r\n - name: HUGGING_FACE_HUB_TOKEN\r\n valueFrom:\r\n secretKeyRef:\r\n name: hf-secret\r\n key: hf_token\r\n volumeMounts:\r\n - mountPath: /dev/shm\r\n name: dshm\r\n livenessProbe:\r\n httpGet:\r\n path: /health\r\n port: 8000\r\n initialDelaySeconds: 1800\r\n periodSeconds: 10\r\n readinessProbe:\r\n httpGet:\r\n path: /health\r\n port: 8000\r\n initialDelaySeconds: 1800\r\n periodSeconds: 5\r\n volumes:\r\n - name: dshm\r\n emptyDir:\r\n medium: Memory\r\n nodeSelector:\r\n gke.networks.io/accelerator-network-profile: auto\r\n resourceClaims:\r\n - name: rdma-claim\r\n resourceClaimTemplateName: all-mrdma\r\n---\r\napiVersion: v1\r\nkind: Service\r\nmetadata:\r\n name: deepseek-v3-1-service\r\nspec:\r\n selector:\r\n app: deepseek-v3-1\r\n type: ClusterIP\r\n ports:\r\n - protocol: TCP\r\n port: 8000\r\n targetPort: 8000\r\n---\r\napiVersion: monitoring.googleapis.com/v1\r\nkind: PodMonitoring\r\nmetadata:\r\n name: deepseek-v3-1-monitoring\r\nspec:\r\n selector:\r\n matchLabels:\r\n app: deepseek-v3-1\r\n endpoints:\r\n - port: 8000\r\n path: /metrics\r\n interval: 30s'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc0c310>)])]>

GKE Inference Gateway 배포

GKE 클러스터에 필요한 커스텀 리소스 정의 (CRD)를 설치합니다.

GKE 버전 1.34.0-gke.1626000 이상인 경우 알파 InferenceObjective CRD만 설치합니다.

code_block: <ListValue: [StructValue([('code', 'kubectl apply -f https://github.com/kubernetes-sigs/gateway-api-inference-extension/raw/v1.0.0/config/crd/bases/inference.networking.x-k8s.io_inferenceobjectives.yaml'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc0d950>)])]>

추론 풀 만들기

code_block: <ListValue: [StructValue([('code', 'helm install deepseek-v3-pool \\\r\n oci://registry.k8s.io/gateway-api-inference-extension/charts/inferencepool \\\r\n --version v1.0.1 \\\r\n --set inferencePool.modelServers.matchLabels.app=deepseek-v3-1 \\\r\n --set provider.name=gke \\\r\n --set inferenceExtension.monitoring.gke.enabled=true'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc0d090>)])]>

게이트웨이, HTTPRoute, InferenceObjective 만들기

code_block: <ListValue: [StructValue([('code', '# 1. The Regional Internal Gateway (ILB)\r\napiVersion: gateway.networking.k8s.io/v1\r\nkind: Gateway\r\nmetadata:\r\n name: deepseek-v3-gateway\r\n namespace: default\r\nspec:\r\n gatewayClassName: gke-l7-rilb\r\n listeners:\r\n - name: http\r\n protocol: HTTP\r\n port: 80\r\n allowedRoutes:\r\n namespaces:\r\n from: Same\r\n---\r\n# 2. The HTTPRoute (Routing to the Pool)\r\napiVersion: gateway.networking.k8s.io/v1\r\nkind: HTTPRoute\r\nmetadata:\r\n name: deepseek-v3-route\r\n namespace: default\r\nspec:\r\n parentRefs:\r\n - name: deepseek-v3-gateway\r\n rules:\r\n - matches:\r\n - path:\r\n type: PathPrefix\r\n value: /\r\n backendRefs:\r\n - group: inference.networking.k8s.io\r\n kind: InferencePool\r\n name: deepseek-v3-pool\r\n---\r\n# 3. The Inference Objective (Performance Logic)\r\napiVersion: inference.networking.x-k8s.io/v1alpha2\r\nkind: InferenceObjective\r\nmetadata:\r\n name: deepseek-v3-objective\r\n namespace: default\r\nspec:\r\n poolRef:\r\n name: deepseek-v3-pool'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc0ffd0>)])]>

완료되면 기본 VPC에서 테스트 VM을 만들고 GKE Inference Gateway의 IP 주소에 대한 호출을 수행할 수 있습니다.

code_block: <ListValue: [StructValue([('code', 'curl -N -s -X POST "http://$GATEWAY_IP/v1/chat/completions" \\\r\n -H "Content-Type: application/json" \\\r\n -d \'{\r\n "model": "deepseek-ai/DeepSeek-V3.1",\r\n "messages": [{"role": "user", "content": "Box A: red. Box B: blue. Box C: empty. Move A to C, Move B to A, Swap B and C. Where is red?"}],\r\n "stream": true\r\n }\' | stdbuf -oL grep "data: " | sed -u \'s/^data: //\' | grep -v "\\[DONE\\]" | \\\r\n jq --unbuffered -rj \'.choices[0].delta | (.reasoning_content // .reasoning // .content // empty)\''), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc0f350>)])]>

다음 단계

GKE 관리형 DRANET 및 GKE Inference Gateway에 대해 자세히 알아보려면 다음을 검토하세요.

블로그: DRA: 동적 리소스 할당을 통한 Kubernetes 기기 관리의 새로운 시대
문서 세트: DRANET
문서: AI 하이퍼컴퓨터

질문이 있거나, 자세한 내용이 궁금하거나, 의견을 공유하고 싶으신가요? LinkedIn을 통해 저에게 알려주세요.

에이전트의 역량 강화: Google의 공식 기술 저장소 발표

Thu, 01 Oct 2026 10:00:00 +0000

AI 모델이 개선됨에 따라 기술 실무자들은 Firebase와 Gemini API부터 BigQuery와 GKE에 이르기까지 Google Cloud 제품을 빌드하기 위해 에이전트 AI 도구를 점점 더 많이 사용하고 있습니다. 하지만 모델이 이러한 기술에 대한 정확한 최신 정보 를 갖추고 있는지 어떻게 확인할 수 있을까요?

이를 수행하는 한 가지 방법은 AI 에이전트를 그라운딩된 실시간 정보 소스에 연결하는 것입니다. 예를 들어 Google은 개발자 문서를 위한 모델 컨텍스트 프로토콜 (MCP) 서버를 제공합니다. 하지만 MCP 서버를 과도하게 사용하면 컨텍스트 윈도우에 엄청난 양의 컨텍스트가 로드되어 모델이 혼란스러워하고 토큰 비용이 증가하는 '컨텍스트 블로트'라는 문제가 발생할 수 있습니다.

에이전트에게 추가적인 전문성을 제공할 방법이 필요하며, 에이전트 기술을 통해 이를 실현할 수 있습니다.

스킬은 '에이전트에게 새로운 기능과 전문성을 제공하는 간단한 개방형 형식'입니다. 스킬은 특정 기술 또는 작업에 대한 간결한 에이전트 중심 문서라고 생각하면 됩니다. 기술은 Markdown으로 작성되며 참조 파일, 코드 스니펫 및 기타 애셋을 포함할 수 있습니다. 에이전트는 필요한 경우에만 스킬 정보를 로드하여 컨텍스트 블로트의 위험을 줄입니다.

Google Cloud Next 2026 첫날인 오늘, Google의 공식 Agent Skills 저장소 출시 소식을 전해드립니다.

github.com/google/skills

이 저장소는 Google Cloud 기술에 중점을 둔 13가지 기술로 시작합니다.

선정된 제품: AlloyDB, BigQuery, Cloud Run, Cloud SQL, Firebase, Gemini API, Google Kubernetes Engine (GKE)
3가지 Well-Architected Pillar 기술: 보안, 안정성, 비용 최적화
Google Cloud 온보딩, 인증, 네트워크 관측 가능성을 위한 '레시피' 기술

npx skills install github.com/google/skills 를 사용해 Antigravity, Gemini CLI, 서드 파티 에이전트 등 원하는 에이전트에 이러한 기술을 설치합니다.

앞으로 몇 주, 몇 달에 걸쳐 이 저장소에 추가적인 기술을 출시할 예정이니 계속 지켜봐 주세요.

이제 빌드를 시작해 보세요.

Uber가 클라우드 마이그레이션을 차단 해제하면서 네트워크 안정성을 개선한 방법

Fri, 04 Sep 2026 06:00:00 +0000

Uber는 서비스를 제공하는 도시와 많은 공통점을 가지고 있습니다. 두 가지 모두 항상 변화하고 성장하며, 혼잡과 확산을 방지하기 위해 결과 트래픽을 신중하게 관리해야 합니다.

Uber는 확장되는 네트워크를 관리하기 위해 기술 전략을 지속적으로 발전시켜 왔으며, 이러한 신중한 계획과 끊임없는 발전 덕분에 플랫폼 전반의 애플리케이션 트래픽이 원활하게 실행될 수 있었습니다. 궁극적으로는 언제든 원활하게 작동하는 안정적인 대규모 플랫폼을 유지하는 것이 사용자 신뢰를 유지하는 데 핵심입니다.

이러한 노력의 중요한 솔루션 중 하나는 Cloud Interconnect의 Application Awareness입니다. 하이브리드 네트워크 전반에서 애플리케이션 우선순위를 지정할 수 있는 업계 최초의 도구인 Cloud Interconnect의 Application Awareness는 Uber가 잠재적인 네트워크 정체 이벤트 중에 비즈니스 연속성을 보장하기 위해 중요한 트래픽의 우선순위를 지정하는 데 도움이 되었습니다.

Uber는 Cloud Interconnect의 Application Awareness에 대한 초기 설계 파트너로 활동하면서 이 기능이 Uber의 글로벌 규모 운영 요구사항을 충족하도록 지원했습니다. 이러한 개선은 Uber의 일상적인 운영을 개선했을 뿐만 아니라 전환 중에 서비스 중단 위험이 적을 것이라는 확신을 주어 Google Cloud 마이그레이션을 추진할 수 있는 자신감을 심어주었습니다.

이 게시물에서는 Uber가 가장 필요로 했던 기능과 그 이유, Cloud Interconnect의 Application Awareness의 내부 작동 방식, 그리고 다른 조직에도 도움이 될 수 있는 방법을 설명합니다.

중요 트래픽 우선순위 지정

분산형, 하이브리드형 또는 멀티 클라우드 애플리케이션을 전 세계 규모로 마이그레이션할 때는 네트워크 안정성이 주요 관심사가 됩니다. 아무리 가치 있는 마이그레이션이라도 진행 중인 서비스를 중단시킨다면 그 가치가 떨어질 수 있습니다. Uber와 같은 조직의 경우 대규모 데이터 분석 워크로드(새로운 AI 사용 사례 포함)를 지원하기 위해 방대한 양의 데이터를 이동하면 네트워크 링크가 포화되어 중요한 애플리케이션 트래픽의 안정성 위험이 증가할 수 있습니다.

표준 클라우드 상호 연결 접근방식을 사용하면 기업은 일반적으로 극심한 인프라 요구사항을 충족하기 위해 간단한 대역폭 오버프로비저닝을 적용합니다. 하지만 오늘날의 하이브리드 클라우드 수요와 Uber와 같은 조직의 규모를 고려할 때, 피크 사용량을 위해 네트워크 용량을 과도하게 프로비저닝하는 것은 비용이 너무 많이 들고 신뢰할 수 없는 경우가 많습니다.

최첨단 AI 혁신을 통합하면 과도한 프로비저닝의 단점이 더욱 커집니다. Uber는 네트워크 정체 없이 대규모 데이터 전송을 처리하고 비즈니스 크리티컬 애플리케이션의 성능을 보호할 수 있는 시스템을 갖춰야 합니다.

트래픽 처리, 정체 응답, 지연 시간 관리, 비용 효율성이라는 4가지 주요 기능을 포함한 Cloud Interconnect의 애플리케이션 인식 기능을 활용하여 Uber는 최신 기술 스택에 필요한 네트워킹 최적화를 달성할 수 있었습니다.

비공개 프리뷰를 시작으로 Uber는 애리조나주 피닉스와 버지니아주 애쉬번의 Google Cloud Interconnect 배포를 시작으로 인프라 전반에 이 기능을 배포했습니다. Cloud Interconnect의 Application Awareness를 통해 Uber는 DSCP 마킹과 구성된 큐잉 프로필을 사용하여 덜 시간에 민감한 데이터보다 최종 사용자 애플리케이션 트래픽을 분류하고 우선순위를 지정할 수 있습니다.

다음 차트에서는 Cloud Interconnect의 Application Awareness의 4가지 주요 기능과 기존 접근방식과의 차이점, Uber와 같은 조직의 운영 연속성을 개선하는 데 어떻게 도움이 되는지 살펴봅니다.

기능	표준 Interconnect 솔루션	Cloud Interconnect의 애플리케이션 인식
트래픽 처리	모든 트래픽을 동일하게 취급 (선입선출)	6개의 고유한 트래픽 클래스로 분류된 트래픽
정체 응답	버스트 중에 우선순위가 높은 애플리케이션 트래픽이 삭제될 수 있음	엄격한 우선순위 또는 대역폭 공유 정책을 통해 비즈니스에 중요한 트래픽을 보호합니다.
지연 시간 관리	우선순위가 높은 애플리케이션의 예측 불가능한 지연 시간	시간에 민감한 워크로드에 대해 예측 가능하고 일관된 낮은 지연 시간
비용 효율성	피크를 흡수하기 위해 값비싼 과잉 프로비저닝이 필요함	효율적인 대역폭 사용 및 TCO 절감

Uber의 핵심 요점

Uber는 Cloud Interconnect에 Application Awareness를 배포하여 네트워크에서 비즈니스에 중요한 트래픽의 우선순위를 즉시 지정할 수 있게 되면서 비즈니스 가치를 실현했습니다. 이 과정에서 Uber는 유사한 하이브리드 클라우드 과제를 안고 있는 다른 기업이 복제할 수 있는 청사진을 만들었습니다. 이 청사진의 핵심 요소는 다음과 같습니다.

비즈니스 연속성 보장: Uber는 트래픽이 많은 주요 이벤트 중에 우선순위를 지정할 애플리케이션 트래픽을 실시간으로 결정할 수 있습니다. 즉, 계획된 이벤트와 계획되지 않은 이벤트 모두 극단적인 상황에서도 미션 크리티컬 애플리케이션이 계속 실행됩니다. Uber 경영진은 Cloud Interconnect의 Application Awareness가 글로벌 운영에 중요하다고 말합니다.
효율적인 대역폭 사용: Uber는 정체를 방지하기 위해 무작정 대역폭을 과도하게 프로비저닝하는 대신 애플리케이션 인식을 통해 예상되는 네트워크 대역폭 요구사항에 맞춰 기존 Cloud Interconnect 용량을 더 잘 활용할 수 있습니다. 그 결과 네트워크 인프라의 총소유비용이 절감됩니다.
워크로드 마이그레이션 차단 해제: Uber는 네트워크 정체로부터 중요한 애플리케이션을 보호하여 상당한 워크로드를 Google Cloud로 마이그레이션할 수 있었고, 이 과정에서 운영 오버헤드를 대폭 줄였습니다.

"Cloud Interconnect의 Application Awareness는 더 많은 전략적 워크로드를 Google Cloud로 마이그레이션할 수 있는 능력을 발휘하는 데 핵심적인 역할을 했으며, 전 세계적으로 수요가 급증하는 기간에도 서비스 안정성을 유지하는 데 매우 중요합니다. 트래픽의 우선순위를 지능적으로 지정할 수 있게 해 주므로 우선순위가 높은 서비스를 보호하고 인프라를 더욱 효율적으로 만들어 총소유비용을 절감할 수 있습니다. 단순한 기능 배포가 아니라 비즈니스에 중요한 솔루션을 제공하는 심도 있는 엔지니어링 파트너십이었습니다." – 해리 류, Uber 엔지니어링 부문 이사

AI 및 그 이상을 위한 네트워크 안정성 확보

더 많은 기업이 클라우드 기반 AI 모델, 분산 애플리케이션, 데이터 분석을 통합함에 따라 대규모 데이터 전송을 처리할 준비를 갖추는 것이 비즈니스에 필수적인 요소가 되고 있습니다. 하지만 이 과정에서 중요한 애플리케이션의 안정성을 절대 훼손해서는 안 됩니다.

Cloud Interconnect의 애플리케이션 인식 기능을 통해 Uber는 비즈니스에 중요한 트래픽을 보호하기 위해 단순한 대역폭 과프로비저닝을 넘어선 조치가 최신 하이브리드 및 멀티 클라우드 전략을 수용하는 데 필요한 안정성을 구축하는 데 필수적인 단계임을 입증했습니다.

업계 전반에서 Cloud Interconnect가 지닌 잠재력에 관한 블로그를 읽고 이 서비스가 조직에 어떤 이점을 가져다줄 수 있는지 자세히 알아보세요. 더 자세히 알아볼 준비가 되었다면 Google Cloud의 네트워킹 및 업계 전문가팀이 도와드리겠습니다.

Google Cloud 애플리케이션 로드 밸런서(ALB) 마이그레이션 실전 가이드

Mon, 01 Jun 2026 01:00:00 +0000

* 본 아티클의 원문은 2026년 4월 11일 Google Cloud 블로그(영문)에 게재되었습니다.

기존의 온프레미스 하드웨어 솔루션에서 Cloud Load Balancing(로드 밸런싱)으로 애플리케이션 로드 밸런서 인프라를 마이그레이션하면 확장성, 비용 효율성, Google Cloud 에코시스템과의 긴밀한 통합 측면에서 상당한 이점을 얻을 수 있습니다. 하지만 다음과 같은 근본적인 질문이 자주 제기됩니다. "현재 로드 밸런서 구성은 어떻게 해야 할까요?"

기존의 온프레미스 로드 밸런서 구성에는 트래픽 제어를 위한 비즈니스 크리티컬한 로직이 수년간 축적되어 있는 경우가 많습니다. 다행인 점은 기존 기능을 완전히 마이그레이션할 수 있을 뿐만 아니라, 이번 마이그레이션이 트래픽 관리를 현대화하고 단순화할 수 있는 절호의 기회라는 것입니다.

이 실전 가이드에서는 기존 로드 밸런서를 Google Cloud의 Application Load Balancer(애플리케이션 로드 밸런서, ALB)로 마이그레이션하기 위한 실무 지침을 설명합니다. 여기서는 설정 명세형 구성 (Declarative configurations)과 혁신적인 이벤트 기반 (Event-driven) Service Extensions(서비스 익스텐션) 에지 컴퓨팅 기능 (Edge compute capability)을 모두 활용하여 공통적인 기능을 처리하는 방법을 다룹니다.

성공적인 마이그레이션을 위한 단계별 접근 방식

명령형 스크립트 기반 시스템 (Imperative, script-based system)에서 클라우드 네이티브 및 설정 명세형 우선 모델 (Cloud-native, declarative-first model)로 전환하려면 체계적인 계획이 필요합니다. 이를 위해 직관적인 4단계 접근 방식을 권장합니다.

1단계: 현황 파악 및 매핑 (Discovery and mapping)

마이그레이션을 시작하기 전에 현재 시스템의 구성 현황을 명확히 파악해야 합니다. 기존 로드 밸런서 구성을 철저히 분석하고 분류해 보세요. 각 규칙의 궁극적인 목적은 무엇인가요? 단순한 HTTP-HTTPS 리디렉션 (HTTP-to-HTTPS redirect)을 수행하고 있나요? HTTP 헤더 수정 (HTTP header manipulation - 추가 또는 삭제)을 처리하고 있나요? 아니면 복잡한 맞춤형 인증 로직 (Complex, custom authentication logic)을 처리하고 있나요?

대부분의 구성은 일반적으로 다음 두 가지 주요 범주로 나뉩니다.

공통 패턴 (Common patterns): 리디렉션, URL 재작성, 기본 헤더 수정, IP 기반 액세스 제어 목록(ACL) 등 대부분의 웹 애플리케이션에 공통적으로 적용되는 표준 로직입니다.
맞춤형 비즈니스 로직 (Bespoke business logic): 맞춤형 독점 토큰 인증, 고급 헤더 추출 및 교체, HTTP 속성에 따른 동적 백엔드 선택, HTTP 응답 본문 수정 등 해당 애플리케이션에 고유한 복잡한 커스텀 로직입니다.

2단계: 대응하는 Google Cloud 기능 선택

규칙 분류를 마쳤다면 다음 단계는 이를 적절한 Google Cloud 기능에 매핑하는 것입니다. 이는 단순한 1:1 대체가 아니라, 아키텍처를 최적화할 수 있는 전략적인 선택입니다.

옵션 1: 설정 명세형 방식 (Declarative path - 규칙의 약 80%에 해당) 대부분의 공통 패턴의 경우, Application Load Balancer(ALB)의 내장된 설정 명세형 기능을 활용하는 것이 가장 좋은 접근 방식입니다. 복잡한 스크립트를 작성하는 대신, 구성 파일에 원하는 최종 상태를 정의하는 방식입니다. 이 방식이 관리와 버전 제어, 향후 확장성 확보 측면에서 훨씬 유리합니다.

공통 패턴과 설정 명세형 기능의 매핑 예시:

리디렉션/재작성 (Redirects/Rewrites) ➔ Application Load Balancer(ALB) URL 맵 (Application Load Balancer URL maps)
ACL/스로틀링 (ACLs/Throttling) ➔ Google Cloud Armor 보안 정책 (Google Cloud Armor security policies)
세션 지속성 (Session Persistence) ➔ 백엔드 서비스 설정 (Backend service configuration)

옵션 2: 프로그래밍 방식 (Programmatic path - 복잡한 맞춤형 규칙에 해당) 설정 명세형 기능만으로 처리하기 어려운 복잡하고 독특한 비즈니스 로직을 마이그레이션할 때는 프로그래밍 방식으로 대응할 수 있는 Service Extensions가 훌륭한 대안이 됩니다. 이는 개발자가 작성한 맞춤형 코드(Rust, C++ 또는 Go)를 로드 밸런서의 데이터 경로에 직접 삽입할 수 있는 강력한 에지 컴퓨팅 기능입니다. 현대적인 완전관리형 고성능 프레임워크 내에서 비즈니스 요구에 맞는 탁월한 유연성을 제공합니다.

다음 순서도는 각 구성에 적합한 Google Cloud 기능을 결정하는 데 유용한 가이드를 제공합니다.

본 이미지는 Google Nano Banana로 생성되었습니다.

3단계: 테스트 및 검증 (Test and Validate)

구성에 적합한 마이그레이션 경로를 선택했다면, 이제 실제 운영 환경을 모사한 스테이징 환경에 새로운 Application Load Balancer(ALB) 구성을 배포할 차례입니다. 마이그레이션된 로직을 중점적으로 살펴보며 모든 애플리케이션 기능이 정상 작동하는지 철저히 테스트해야 합니다. 자동화된 테스트와 수동 QA (Automated testing and manual QA)를 적절히 결합하여 리디렉션 (Redirects), 보안 정책 (Security policies), 그리고 맞춤형 Service Extensions 로직이 의도한 대로 정확하게 동작하는지 검증하세요.

4단계: 단계적 전환 (Phased Cutover - 카나리아 배포)

한 번에 모든 트래픽을 전환하는 '빅뱅' 방식 대신, 리스크를 최소화할 수 있는 단계적 마이그레이션 전략을 구현해야 합니다. 실제 서비스 트래픽의 일부(예: 5~10%)만 먼저 새로운 Google Cloud 로드 밸런서(ALB)로 라우팅하며 전환 프로세스를 시작하세요. 이 초기 기간 동안 지연 시간 (Latency), 오류율 (Error rates), 애플리케이션 성능 (Application performance) 등의 주요 지표를 면밀히 모니터링해야 합니다. 안정성이 충분히 검증되면 ALB로 라우팅되는 트래픽의 비율을 점진적으로 늘려나갑니다. 만에 하나 심각한 문제가 발생할 경우를 대비하여 기존 인프라 (Legacy infrastructure)로 즉시 되돌릴 수 있는 명확하고 빠른 롤백 계획 (Rollback plan)을 항상 수립해 두어야 합니다.

안전하고 원활한 마이그레이션을 위한 권장사항

실제 마이그레이션 구축 사례와 경험을 바탕으로, 로드 밸런서 마이그레이션 계획 시 반드시 고려해야 할 핵심 권장사항을 정리했습니다.

선 분석, 후 마이그레이션 (Analyze first, migrate second): 기존 구성을 철저히 분석하는 것이 성공의 첫 단추입니다. 현재 사용하지 않거나 불필요한 레거시 로직까지 그대로 마이그레이션(Lift and Shift)하는 것은 지양해야 합니다. 이번 기회에 복잡도를 줄이세요.
설정 명세형 방식 우선 고려 (Prefer declarative): 항상 Google Cloud의 관리형 설정 명세 기능(URL Map, Cloud Armor)을 최우선으로 검토하세요. 이 기능들이 아키텍처를 단순하게 유지하고, 유지 관리 부담을 줄이며, 확장성을 극대화하는 가장 좋은 방법입니다.
Service Extensions의 전략적 활용 (Use Service Extensions strategically): 설정 명세형 기능만으로는 도저히 해결할 수 없는 복잡하고 고유한 맞춤형 비즈니스 로직에 한해서만 Service Extensions를 선택적으로 적용하세요.
철저한 모니터링 (Monitor everything): 마이그레이션이 진행되는 동안 기존 로드 밸런서와 신규 Google Cloud 로드 밸런서 모두를 지속적으로 모니터링해야 합니다. 트래픽 볼륨, 지연 시간, 에러율 등 핵심 지표를 관찰하여 이상 징후를 즉각적으로 감지하고 신속하게 대응할 수 있도록 준비하세요.
팀 역량 강화 (Train your team): 마이그레이션 전후로 운영 팀이 Google Cloud의 Cloud Load Balancing 개념과 작동 방식을 충분히 이해할 수 있도록 교육해야 합니다. 이를 통해 새로운 모던 인프라를 효과적으로 운영하고 안정적으로 유지 관리할 수 있는 역량을 갖출 수 있습니다.

결론

기존 온프레미스 로드 밸런서 인프라를 Google Cloud로 마이그레이션하는 것은 단순한 서버 이전을 넘어, 애플리케이션 서비스 제공(Delivery) 환경을 현대화할 수 있는 최적의 기회입니다. 현재의 로드 밸런싱 구성과 요구 사항을 분석하여 설정 명세형 ALB 기능 또는 프로그래밍 방식의 Service Extensions에 전략적으로 매핑함으로써, 미래의 비즈니스 요구에 신속하게 대응할 수 있는 확장 가능하고 복원력 있으며 비용 효율적인 모던 인프라를 구축할 수 있습니다.

지금 바로 Application Load Balancer 및 Service Extensions의 다양한 기능과 고급 역량을 검토하여 귀사의 애플리케이션에 가장 적합한 설계를 구상해 보세요. 보다 구체적인 가이드나 복잡한 아키텍처 설계가 필요하다면 Google Cloud 팀에 언제든지 문의하여 도움을 받으실 수 있습니다.

차세대 에이전트를 가동하는 Gemini Enterprise Agent Platform 발표

Tue, 28 Apr 2026 04:00:00 +0000

* 본 아티클의 원문은 2026년 4월 23일 Google Cloud 블로그(영문)에 게재되었습니다.

생성형 AI의 초기에는 안전하고 신뢰할 수 있는 비즈니스 도구를 구축하기 위해 막대한 엔지니어링 노력과 수많은 시행착오가 필요했습니다. 저희는 신뢰할 수 있는 AI 개발 플랫폼인 Vertex AI를 통해 이 문제를 해결하도록 도왔습니다. 하지만 오늘날 우리는 보안이나 거버넌스 가이드라인 없이 여러 시스템과 상호작용하는 에이전트들로 인해 과거와는 다른 차원의 복잡성을 관리해야 하는 상황에 놓여 있습니다.

진정한 자율 기업(autonomous enterprise), 즉 에이전트가 팀원처럼 독립성과 신뢰성을 갖고 행동할 수 있는 기업으로 나아가기 위해서는 그러한 수준의 신뢰를 유지할 수 있는 토대가 필요합니다.

새소식: 오늘 저희는 에이전트를 구축, 확장, 관리(governance) 및 최적화하기 위한 새로운 종합 플랫폼인 Gemini Enterprise Agent Platform을 출시합니다. 이는 Vertex AI의 진화된 형태로, 고객들이 선호하는 모델 선택 및 구축, 에이전트 빌딩 역량에 에이전트 통합, DevOps, 오케스트레이션, 보안을 위한 새로운 기능을 결합했습니다.

Agent Platform은 기술 팀이 제품, 서비스 및 운영을 혁신할 수 있는 에이전트를 구축할 수 있는 단일 창구를 제공합니다. 이러한 에이전트들은 Gemini Enterprise app을 통해 직원들에게 원활하게 전달될 수 있으며, 동시에 IT 운영 시스템과 긴밀히 통합되어 확장 과정에서도 통제력, 거버넌스 및 보안을 보장합니다.

또한 이 플랫폼은 Model Garden을 통해 세계 최고 수준의 200개 이상의 모델에 대한 최상의 접근성을 제공합니다. 여기에는 최신 자사 모델인 Gemini 3.1 Pro, Gemini 3.1 Flash Image, Lyria 3는 물론 Gemma 4와 같은 공개 모델이 포함됩니다. 물론 Anthropic의 Claude Opus, Sonnet, Haiku와 같은 타사 모델도 지원하여, 업무에 가장 적합한 모델을 선택할 수 있는 완전한 유연성을 제공합니다.

앞으로 모든 Vertex AI 서비스와 로드맵은 차세대 에이전트 개발을 지원하기 위해 독립된 서비스가 아닌 Agent Platform을 통해 독점적으로 제공될 예정입니다.

Agent Platform이 비즈니스에 중요한 이유: Agent Platform은 개별 AI 작업을 관리하는 단계에서 벗어나, 비즈니스 결과물을 확신을 가지고 위임할 수 있도록 돕습니다. 구체적인 기능은 다음과 같습니다.

구축(Build): 새로운 Agent Studio의 로우코드 시각적 인터페이스부터 업그레이드된 에이전트 개발 키트(ADK)의 코드 중심 로직까지, 작업에 적합한 환경을 선택하세요. AI 네이티브 코딩 기능을 통해 전체 라이프사이클을 단순화하여 상용 수준의 에이전트를 더 빠르게 출시할 수 있도록 했습니다.
확장(Scale): 재설계된 Agent Runtime으로 상용화로 가는 길을 확보하세요. 이는 며칠 동안 상태를 유지하며 실행되는 장기 워크플로를 지원하며, 지속적이고 장기적인 문맥 유지를 위한 Memory Bank의 지원을 받습니다.
거버넌스(Govern): Agent Identity, Agent Registry, 그리고 Agent Gateway를 통해 중앙 집중식 제어 체계를 구축하세요. 이러한 기능은 직접 구축했거나 파트너 생태계에서 가져온 모든 에이전트가 추적 가능한 ID를 갖고 기업 수준의 가드레일 내에서 작동하도록 보장합니다.
최적화(Optimize): Agent Simulation, Agent Evaluation, 그리고 Agent Observability을 통해 품질을 보장하세요. 이 도구들은 전체 실행 추적과 에이전트 추론 과정을 실시간으로 보여주어 에이전트가 항상 목표를 달성하도록 돕습니다.

Agent Platform 시작하기: Google Cloud console에서 Agent Platform에 방문하여 새로운 기능들을 살펴보고 지금 바로 구축을 시작해 보세요.

여정의 모든 단계에서 신뢰할 수 있는 프로덕션 등급의 에이전트를 제공하기 위해 Agent Platform이 어떻게 지원하는지, 최신 출시 소식에 대한 자세한 내용을 계속해서 확인해 보세요.

고객들이 Gemini Enterprise Agent Platform을 통해 더 많은 성과를 달성하는 방법

“Burns & McDonnell은 Agent Platform을 사용해 조직의 지표를 기업 전반에 적용하는 방식을 혁신하고 있습니다. 우리는 ADK를 활용하여 수십 년간 축적된 프로젝트 데이터를 실시간으로 실행 가능한 인텔리전스로 변환하는 AI 에이전트를 구축 중입니다. Agent Platform은 결정론적 비즈니스 규칙과 확률론적 추론을 결합하여 이러한 혁신이 책임감 있게 확장될 수 있도록 돕습니다. 이를 통해 AI는 단순한 생산성 도구를 넘어 신뢰할 수 있는 운영 역량이 되었습니다. Agent Platform과 함께 우리는 단순히 지식을 관리하는 것이 아니라, 경험을 활성화하여 더 빠르고 자신감 있는 의사결정을 이끌어내고 있습니다.” – Matt Olson, Chief Innovation Officer, Burns & McDonnell

“Color Health는 Agent Platform을 통해 모든 단계의 케어를 제공하는 가상 암 클리닉(Virtual Cancer Clinic)을 운영하고 있습니다. ADK로 Color Assistant를 구축하고 Agent Runtime을 통해 이를 확장함으로써 더 많은 여성이 유방암 검진을 받을 수 있도록 돕고 있습니다. 이 에이전트는 사용자의 검진 자격 여부를 확인하고, 임상의와 연결하며, 예약 일정을 잡는 데 도움을 줍니다. 에이전트의 진정한 힘은 확장성에 있습니다. 이를 통해 우리는 더 많은 사람에게 도달하고 개별적인 위험도와 자격 요건에 실시간으로 대응할 수 있습니다.” – Jayodita Sanghvi, PhD., Head of AI Platform, Color

“Comcast의 Xfinity Assistant를 ADK로 재구축함으로써, 단순한 스크립트 기반 자동화를 넘어 고객에게 개인화된 문제 해결 및 셀프 서비스 지원을 제공하는 대화형 생성 지능으로 진화했습니다. Agent Runtime은 강력한 가속기 역할을 하여 정교한 멀티 에이전트 아키텍처를 배포할 수 있게 해주었고, Gemini를 통해 안전하고 근거 있는 상호작용을 보장하면서 디지털 수용률을 높였습니다. 우리는 단순히 고객의 문제를 한 번에 해결하여 반복적인 문의를 줄이는 것에 그치지 않고, 대규모 고객 경험을 재정의하고 있습니다.” – Rick Rioboli, Chief Technical Officer, Connectivity & Platforms, Comcast

“Geotab은 Agent Platform을 사용하여 AI 에이전트 우수성 센터(CoE)를 빠르게 가속화하고 있습니다. Google의 ADK는 다양한 프레임워크를 단일화되고 관리 가능한 프로덕션 경로로 조율할 수 있는 유연성을 제공하며, 빌드-테스트-배포 주기를 획기적으로 단축하는 탁월한 개발자 경험을 선사합니다. Geotab에게 ADK는 기업 전반에 걸쳐 에이전틱 AI 솔루션을 빠르고 안전하게 확장할 수 있게 해주는 토대입니다.” – Mike Branch, Vice President, Data & Analytics, GeoTab

"Gurunavi는 AI 식당 검색 앱인 'UMAME!'를 구동하기 위해 Agent Platform을 사용하며, Memory Bank를 활용해 사용자 맥락을 깊이 있게 이해합니다. 기존의 프롬프트 기반 시스템과 달리, 우리 에이전트는 사용자의 과거 행동과 취향을 기억하여 최적의 옵션을 선제적으로 제시합니다. 이를 통해 수동 검색의 번거로움을 없애고 사용자 만족도를 30% 이상 향상시킬 원활한 경험을 창출합니다. 우리는 이 메모리 기능이 새로운 미식 경험의 미래를 위한 필수적인 기능이라고 생각합니다.” – Toshiaki Iwamoto, CTO, Gurunavi

"L'Oréal에서 뷰티 테크(Beauty Tech)는 단순한 지원 부서가 아니라 세상을 움직이는 아름다움을 만드는 강력한 촉매제입니다. 이러한 야심을 실현하기 위해 우리는 Google Cloud를 기반으로 자체적인 Beauty Tech Agentic Platform을 구축하기로 했습니다. ADK를 활용해 결정론적 워크플로 자동화에서 자율적이고 결과 중심적인 에이전트 오케스트레이션으로의 근본적인 변화를 주도하고 있습니다. 우리 에이전트들은 고립되어 있지 않습니다. Model Context Protocol (MCP)을 통해 Beauty Tech Data Platform 및 핵심 운영 애플리케이션과 같은 단일 진실 공급원(Single Sources of Truth)에 안전하게 연결됩니다. Google Cloud는 인간의 감독을 중심으로 유지하면서도 이 플랫폼을 전 세계적으로 확장하는 데 필요한 복원력, 멀티 LLM 유연성, 기업급 신뢰 프레임워크를 제공합니다." – Etienne BERTIN, Group CIO, L'Oréal

“Payhawk는 Agent Platform을 사용하여 AI 에이전트를 단순한 작업 수행자에서 진정한 금융 비서로 변화시키고 있습니다. Memory Bank를 활용함으로써 상태가 없는(stateless) 상호작용에서 장기적인 맥락 유지로 전환했습니다. 이제 우리 에이전트들은 전담 팀원처럼 행동하며 사용자 특유의 제약 조건과 이력을 자율적으로 기억합니다. 예를 들어, Financial Controller Agent는 사용자의 습관을 기억해 지출 비용을 자동 제출하며, 제출 시간을 50% 이상 단축했습니다. 이러한 변화를 통해 우리 에이전트들은 단순히 프롬프트에 반응하는 것이 아니라 과거 행동을 바탕으로 필요 사항을 예측할 수 있게 되었습니다.” – Diyan Bogdanov, Principal Applied AI Engineer, Payhawk

"PayPal은 프로덕션 환경에서 에이전트를 신속하게 구축하고 배포하기 위해 Agent Platform을 사용합니다. 구체적으로는 ADK와 시각적 도구를 사용하여 에이전트 상호작용을 검사하고 멀티 에이전트 워크플로를 관리합니다. 이는 의도와 결제 권한의 흐름을 시각화하는 데 필요한 단계별 가시성을 제공합니다. 마지막으로, Agent Platform의 Agent Payment Protocol (AP2)은 신뢰할 수 있는 에이전트 결제를 위한 핵심 토대를 제공하여, 우리 생태계가 안전한 에이전트 기반 커머스 경험을 더 빠르게 출시할 수 있도록 돕습니다." – Nitin Sharma, Principal Engineer, AI, PayPal

AI 에이전트 구축 (Build AI agents)

개발자부터 비즈니스 사용자까지 모든 인원이 에이전트를 대규모로 구축하고 배포할 수 있도록 지원하여 에이전트를 쉽고 빠르게 제작하세요.

더 똑똑한 에이전트를 더 빠르게 구축하기

ADK의 대대적인 업그레이드: 매달 6조 개 이상의 토큰이 ADK를 통해 Gemini 모델에서 처리됩니다. 에이전트를 하위 에이전트 네트워크로 구성하여 더욱 강력한 추론 능력을 확보하세요. 이 새로운 그래프 기반 프레임워크를 통해 복잡한 문제를 해결하기 위해 에이전트들이 협업하는 명확하고 신뢰할 수 있는 로직을 정의할 수 있습니다.
설계부터 안전한 Workspaces: 에이전트에게 핵심 시스템과 격리된 강화된 샌드박스 환경을 제공하여 bash 명령을 실행하고 파일을 안전하게 관리할 수 있게 합니다.
멀티모달 스트리밍: 실시간 오디오 및 비디오 큐에 대한 멀티모달 지원을 통해 실시간 상호작용에 인간과 같은 안정성을 부여합니다.

에이전트를 기업 시스템에 연결하기

모든 시스템에 안전하게 액세스: Native Ecosystem Integrations를 통한 플러그 앤 플레이 아키텍처를 사용하여 커스텀 코딩 없이 에이전트를 내부 데이터 및 도구에 연결하세요.
백그라운드 운영 자동화: Batch & Event-driven 에이전트를 통해 BigQuery 및 Pub/Sub에 있는 데이터를 활성화하세요. 이를 통해 콘텐츠 평가나 데이터 분석과 같은 대규모 비동기 작업을 백그라운드에서 실행할 수 있습니다.

아이디어에서 프로덕션까지 단 몇 시간 만에

AI 기반 개발 지원: Google의 모든 에이전틱 기능을 활용할 수 있는 프로그래밍 방식 인터페이스를 통해, 에이전트가 사용자를 대신해 프로덕션 등급의 에이전트를 구축, 평가 및 배포할 수 있습니다.
Agent Studio에서 직접 에이전트 구축: 이제 Agent Studio에서 간단한 프롬프트 작성부터 복잡한 에이전트 배포까지 원활하게 이동할 수 있습니다. 심층적인 커스터마이징이 준비되면 로직을 ADK로 직접 내보내 코드 환경에서 개발을 계속할 수 있습니다.
사전 구축된 에이전트로 시작하기: Agent Garden에서 코드 현대화, 재무 분석, 경제 연구, 송장 처리 등 멀티 에이전트 시스템의 즉각적인 빌딩 블록 역할을 하는 엄선된 에이전트 템플릿을 이용해 보세요.

AI 에이전트 확장 (Scale AI agents)

개념 증명(PoC)에서 실환경으로 이동하려면 실제 업무의 성능, 상태 유지 및 보안 요구 사항을 처리할 수 있는 플랫폼이 필요합니다.

고성능 에이전트 실행 지원

최신 Agent Runtime: 개편된 Agent Runtime은 1초 미만의 콜드 스타트를 제공하며 수초 내에 새로운 에이전트를 프로비저닝할 수 있게 해줍니다.
Multi-day 워크플로 지원: 이제 며칠 동안 자율적으로 실행되는 장기 실행 에이전트를 배포할 수 있습니다. 이를 통해 영업 잠재 고객 관리 시퀀스와 같이 장기적인 지속성이 필요한 복잡한 다단계 워크플로와 심층 추론 작업을 관리할 수 있습니다.
설계부터 안전한 환경에서의 자율 행동: Agent Sandbox는 모델이 생성한 코드를 안전하게 실행하고, 호스트 시스템에 위험을 주지 않으면서 브라우저 기반 자동화와 같은 컴퓨터 사용 작업을 수행할 수 있는 강화된 환경을 제공합니다.
에이전트 간 오케스트레이션: 에이전트들이 서로 업무를 원활하게 위임할 수 있게 하며, 복잡한 생성형 및 결정론적 오케스트레이션 패턴을 지원합니다. 이를 통해 컴플라이언스와 같은 중요한 흐름에서 에이전트가 매번 지정된 경로를 따르도록 보장합니다.

일시적 세션 데이터를 넘어 높은 정확도의 맥락으로

상호작용 개인화: Agent Memory Bank는 대화에서 장기 기억을 동적으로 생성하고 관리합니다. 새로운 Memory Profiles를 사용하면 에이전트가 낮은 지연 시간으로 정확도 높은 세부 사항을 소환하여 맥락을 절대 놓치지 않습니다.
AI 상호작용을 기존 기록에 연결: Agent Session를 사용하여 이력을 저장하고 관리하세요. Custom Session IDs를 통해 고유 식별자를 사용하여 세션을 추적하고 내부 데이터베이스 및 CRM 기록에 직접 매핑할 수 있습니다.
실시간 상호작용 구현: 양방향 스트리밍을 위한 WebSocket 프로토콜을 사용하여 고객이나 직원과의 실시간 상호작용 시 지연 없이 오디오와 비디오를 처리하고 높은 응답성을 유지하세요.

AI 에이전트 관리 (Govern AI agents)

직접 구축한 에이전트부터 파트너 생태계에서 가져온 에이전트까지, 모든 에이전트에 기업 수준의 엄격함을 적용하는 보안 설계 아키텍처로 관리하세요.

ID 및 액세스를 위한 단일 진실 공급원을 통해 모든 에이전트 관리

모든 에이전트에 검증 가능한 ID 부여: Agent Identity는 모든 에이전트에게 고유한 암호화 ID를 부여하여 보안 태세를 강화합니다. 이는 정의된 권한 정책에 매핑된, 에이전트의 모든 행동에 대한 명확하고 감사 가능한 추적 경로를 생성합니다.
승인된 도구의 중앙 라이브러리 유지: 새로운 Agent Registry는 기업을 위한 단일 진실 공급원을 제공합니다. 모든 내부 에이전트, 도구 및 기술을 인덱싱하여 검색을 단순화하고 관리 및 승인된 자산만 사용자가 사용할 수 있도록 보장합니다.
단일 제어 지점에서 에이전트 플릿 관리: Agent Gateway는 에이전트 생태계의 관제탑 역할을 합니다. 모든 환경에서 에이전트와 도구 간의 안전하고 통합된 연결을 제공하는 동시에, 일관된 보안 정책과 Model Armor 보호를 적용하여 프롬프트 인젝션 및 데이터 유출로부터 방어합니다.

AI 기반 통찰력을 사용하여 비즈니스에 영향을 미치기 전에 숨겨진 위험과 의심스러운 행동 탐지

실시간 의심 행동 탐지: Agent Anomaly Detection은 통계 모델과 LLM-as-a-judge 프레임워크를 사용하여 비정상적인 추론을 찾아냅니다. 이는 Agent Threat Detection과 함께 작동하여 리버스 쉘(reverse shells)이나 알려진 악성 IP 주소로의 연결과 같은 악의적인 활동에 대한 가시성을 제공합니다.
자동 취약점 발견: Security Command Center 기반의 새로운 Agent Security 대시보드는 위협 탐지와 위험 분석을 통합합니다. 팀은 에이전트와 모델 간의 관계를 매핑하고, 자산 검색을 자동화하며, 기본 운영 체제 및 언어 패키지의 취약점을 검사할 수 있습니다.

AI 에이전트 최적화 (Optimize AI agents)

Agent Platform은 AI가 어떻게 작동하고 있는지 이해하는 데 필요한 가시성을 제공하여, 로직을 정교화하고 시간이 지남에 따라 더 똑똑해지도록 쉽게 만들어 줍니다.

출시 전 에이전트 테스트

현실적인 대화 시뮬레이션: Agent Simulation을 사용하여 통제된 환경에서 사람과 유사한 가상 사용자 상호작용 및 가상화된 도구를 대상으로 에이전트를 테스트하세요. 에이전트는 다단계 대화 전반에 걸친 작업 성공률과 안전성을 바탕으로 자동으로 점수가 매겨집니다.

운영 중 모니터링 및 개선

실시간 성능 추적: Agent Evaluation을 사용하여 실제 트래픽에 대해 에이전트 점수를 지속적으로 매기세요. 단일 응답뿐만 아니라 대화 전체의 로직을 평가할 수 있는 멀티턴 자동 평가기를 활용합니다. 턴키 대시보드와 Agent Observability를 통해 복잡한 추론 과정을 시각적으로 추적하여 문제가 발생할 때 즉시 디버깅할 수 있습니다.
에이전트 정교화 자동화: 로그를 수동으로 뒤지는 대신, Agent Optimizer가 실제 실패 사례를 자동으로 클러스터링하고 정확도를 높이기 위한 정교한 시스템 지침을 제안합니다.

상세한 기술 가이드와 전체 업데이트 목록은 업데이트된 문서와 릴리스 노트를 통해 확인할 수 있습니다. Agent Platform은 기업용 에이전트 개발의 새로운 표준이며, 지금 바로 실험 단계를 넘어 프로덕션 규모의 임팩트로 나아갈 수 있도록 구축되었습니다.

Next ‘26: AI 시대 보안의 재정의, 구글 클라우드와 Wiz가 함께 그리는 미래

Wed, 22 Apr 2026 12:00:00 +0000

aside_block: <ListValue: [StructValue([('title', "구글 클라우드 Next '26 보안 하이라이트"), ('body', <wagtail.rich_text.RichText object at 0x7f162dc58f10>), ('btn_text', ''), ('href', ''), ('image', None)])]>

해당 블로그의 원문은 2026년 4월 23일 Google Cloud 블로그(영문)에 게재되었습니다.

AI 시대는 새로운 보안의 시대를 요구합니다. 조직들은 AI의 잠재력을 활용하는 동시에 악의적인 사용으로부터 방어해야 하는 이중의 과제에 직면해 있으며, Google Cloud는 여러분이 이러한 환경에 적응하고 성공적으로 나아갈 수 있도록 돕습니다.

Google Cloud의 최신 연구에 따르면, 위협 행위자들은 AI를 사용하여 공격의 속도, 규모 및 정교함을 가속화하고 있습니다. 한편, M-Trends 2026 보고서에 따르면, 위협 행위자 간의 공조가 심화됨에 따라 지난 3년 동안 초기 침투(initial access) 후 2차 위협 행위자에게 권한을 넘겨주는(hand-off) 데 걸리는 시간이 8시간에서 단 22초로 급격히 단축된 것으로 나타났습니다.

오늘 Google Cloud Next에서 우리는 Google Cloud가 기계의 속도로 점차 정교해지는 위협을 방어하고, AI 및 멀티클라우드 환경을 보호하며, 대규모 클라우드 워크로드의 보안을 확보하는 데 어떻게 도움을 줄 수 있는지 선보입니다.

에이전틱 방어 (Agentic defense) 제공

칩에서 모델에 이르는 Google의 풀스택(full-stack) AI 접근 방식은 고객을 보호하는 데 있어 더 나은 통합과 속도를 통해 경쟁 우위를 제공합니다. Google은 세계 최대 규모의 위협 관측소(threat observatory)와 Mandiant 일선 전문가들로부터 얻은 인사이트를 실행에 옮길 수 있을 뿐만 아니라, Google DeepMind의 최첨단 인사이트와 혁신 기술을 도입하여 고객의 플랫폼을 더욱 안전하게 만듭니다.

오늘 우리는 여러분이 AI의 속도로 방어할 수 있도록 돕는 Google Security Operations의 세 가지 새로운 에이전트를 소개합니다.

현재 프리뷰 버전으로 제공되는 위협 헌팅 에이전트(Threat Hunting agent)는 보안 팀이 기존의 방어 체계를 우회하는 새로운 공격 패턴과 은밀한 적대적 행위를 선제적으로 탐색(hunt)할 수 있도록 지원합니다.
현재 프리뷰 버전으로 제공되는 탐지 엔지니어링 에이전트(Detection Engineering agent)는 방어 범위의 공백(coverage gaps)을 식별하고 위협 시나리오에 대한 새로운 탐지 규칙을 생성하여, 수고(toil)를 덜고 수작업에 의존하던 탐지 생성을 자동화된 과학의 영역으로 전환합니다.
곧 프리뷰로 제공될 예정인 제3자 컨텍스트 에이전트(Third-Party Context agent)는 제3자 콘텐츠에서 얻은 컨텍스트(문맥) 데이터를 활용하여 분석 워크플로우를 더욱 풍부하게 지원합니다.

위협 헌팅 에이전트(Threat Hunting agent)를 활용한 위협 헌팅 개

당사의 분류 및 조사 에이전트(Triage and Investigation agent)는 지난 한 해 동안 500만 건 이상의 경고(alerts)를 처리했으며, 이는 일반적으로 수동으로 30분이 걸리던 분석 작업을 Gemini를 통해 60초로 단축했습니다.

BBVA의 보안 기술(Security Technology) 책임자인 디에고 마르티네스 블랑코(Diego Martinez Blanco)는 "운영의 탄력성과 사이버 보안은 BBVA 고객 신뢰의 근간입니다. 분류 및 조사 에이전트와 같은 첨단 인공지능을 통합함으로써 우리는 새로운 방식으로 확장할 수 있게 되었습니다."라고 말했습니다.

그는 또한 “이 에이전트는 초기 단계의 복잡하고 무거운 작업을 처리하고 오탐(false positives)을 걸러내 주기 때문에, 우리는 인간의 개입이 필요한 중요한 문제에 우선순위를 둘 수 있습니다. 에이전트의 투명한 설명 덕분에 우리 팀은 권장 사항을 명확히 이해하고, 궁극적으로 더 복잡한 조사에 자원을 집중할 수 있게 되었습니다.”라고 덧붙였습니다.

이제 정식 버전(GA)으로 제공되는 Google Security Operations용 원격 Google Cloud 모델 컨텍스트 프로토콜(MCP) 서버 지원을 통해 여러분만의 보안 에이전트를 구축할 수 있습니다. 이를 더욱 쉽게 활용할 수 있도록, 프리뷰 버전으로 제공되는 Google Security Operations 채팅 인터페이스에서 직접 MCP 서버 클라이언트에 액세스할 수도 있습니다.

Google Cloud의 에이전틱 방어(agentic defense)와 인텔리전스 주도의 AI 증강 보안 운영(AI-augmented security operations)을 활용하는 조직은 높은 투자 수익률(ROI)을 거둘 수 있습니다. Christopher Kissel
IDC 리서치 부문 부사장

위협 헌팅 에이전트(Threat Hunting agent)가 생성한 위협 헌팅 결과 보고서

보안 팀은 또한 Google Security Operations의 에이전틱 자동화(agentic automation)를 통해 대응 조치를 자동화할 수 있습니다. 팀을 수동 분류(triage) 방식에서 에이전틱 방어 체계로 더욱 발전시키기 위해, 현재 프리뷰 버전으로 제공되는 Google Threat Intelligence의 다크웹 인텔리전스(dark web intelligence)를 도입했습니다. 내부 테스트에 따르면, 이 기능은 매일 수백만 건의 외부 이벤트를 98%의 정확도로 분석하여 실제로 중요한 위협을 신속하게 파악할 수 있습니다.

IDC의 리서치 부문 부사장인 크리스토퍼 키셀(Christopher Kissel)은 "IDC 조사에 따르면 AI 기반의 컨텍스트 및 자동화를 도입한 조직들은 탐지 평균 시간(MTTD) 및 대응 평균 시간(MTTR)의 대폭적인 단축, 오탐지 감소, 분석가 생산성 향상 등 가시적인 운영 이점을 경험했습니다. 이러한 운영 개선은 중단 기간 단축, 사고 관련 비용 절감, 보안 태세 및 의사 결정에 대한 경영진의 신뢰 향상과 같은 실질적인 비즈니스 성과(business outcomes)로 이어집니다."라고 말하며, "Google Cloud의 에이전틱 방어를 통해 인텔리전스 주도의 AI 증강 보안 운영 방식을 활용하는 조직은 강력한 투자 수익률(ROI)을 거딜 수 있습니다."라고 강조했습니다.

Google Security Operations를 위한 새로운 파트너 지원 워크플로우

오늘 우리는 Google Security Operations를 위한 강력한 새로운 파트너 통합(new partner integrations) 코호트도 발표합니다. 즉시 사용 가능한(out of the box) 고충실도 보안 워크플로우를 제공하도록 설계된 Google Cloud 보안 통합 에코시스템의 최신 참여 파트너로는 Darktrace, Gigamon, SAP 등이 있습니다.

모든 인프라 환경에서 AI 및 클라우드 애플리케이션 보호

AI와 클라우드 애플리케이션은 다양한 플랫폼과 모델에 걸쳐 구축됩니다. 이를 엔드투엔드로 보호하기 위해, 당사는 고객이 애플리케이션을 어디서 어떻게 구축하든 관계없이 위험을 더 쉽고 빠르게 완화할 수 있도록 지원하고자 합니다. 이러한 지원에는 Amazon Web Services, Google Cloud, Microsoft Azure, Oracle Cloud와 같은 주요 클라우드 환경과 OpenAI와 같은 SaaS(서비스형 소프트웨어) 환경, 그리고 맞춤형 호스팅 환경까지 포함됩니다.

이제 Google Cloud의 일부가 된 Wiz는 고객이 구축하고 실행하는 앱을 보호하는 당사의 역량을 더욱 확장하고 심화시킵니다. Wiz는 고객이 AI를 빠르고 안전하게 도입할 수 있도록 지원하는 동시에, AI 개발 수명 주기를 보호하는 데 도움을 줍니다.

Wiz는 RSA 컨퍼런스에서 AI 애플리케이션 보호 플랫폼(AI-APP)을 발표하여 AI 애플리케이션에 대한 심층적인 가시성, 위험 태세 및 런타임 분석을 제공합니다. 또한, 기계의 속도로 위험과 위협을 식별하고 대응할 수 있도록 돕는 Wiz 보안 에이전트(Wiz Security Agents)와 Wiz 워크플로우(Wiz Workflows)도 함께 발표했습니다.

오늘 우리는 모든 클라우드, 플랫폼 및 AI 환경에서 고객을 안전하게 보호하겠다는 당사의 약속을 한 단계 더 발전시킵니다. 이제 Wiz는 Databricks를 지원할 뿐만 아니라 AWS Agentcore, Gemini Enterprise Agent Platform, Microsoft Azure Copilot Studio, Salesforce Agentforce와 같은 새로운 에이전트 스튜디오도 지원하여, 개발 팀이 어떤 방식을 선택하든 완벽한 가시성을 확보할 수 있게 되었습니다.

아울러 Wiz는 Google Cloud Apigee, Cloudflare AI Security for Apps, Vercel 플랫폼 등 클라우드의 외곽 계층(outer layer)까지 통합을 지원하여 보안 에코시스템을 지속적으로 뒷받침하며 Wiz 보안 그래프(Security Graph)의 강력한 성능을 더욱 확장하고 있습니다. 또한 분석가들이 자동 위협 정보 전달을 보다 쉽게 구성할 수 있도록 Wiz Defend의 보안 탐지 결과를 Google Security Operations 및 Mandiant Threat Defense와 통합하는 방식도 업데이트했습니다.

Wiz는 팀이 보다 빠르고 안전하게 혁신할 수 있도록 AI 네이티브 개발 수명 주기를 보호하기 위해 설계된 다음과 같은 새로운 기능들도 발표했습니다.

바이브 기반 코딩(vibe-coded) 애플리케이션 보호: Wiz는 5월에 정식 출시(GA)될 예정인 새로운 통합 기능을 발표합니다. 이 기능은 Lovable 플랫폼 내에서 직접 Wiz 보안 스캔을 실행하여 Wiz가 포착한 취약점, 보안 비밀(secrets) 및 잘못된 구성(misconfigurations)을 팀이 코드를 작성하는 Lovable의 내장 보안 뷰에 바로 표시해 줍니다.
AI 생성 코드 보호: Wiz는 AI가 생성한 코드가 생성되는 즉시 위험을 제거합니다. 인라인 AI 보안 훅(Inline AI security hooks)이 IDE 및 에이전트 워크플로우에 직접 통합되어 프롬프트를 평가하고 AI 생성 결과물을 즉시 스캔함으로써, 코드가 커밋되기 전에 보안 가드레일을 주입합니다.
에이전트 기반 조치(Agent-based remediation): Wiz Skills는 코딩 에이전트와 AI 네이티브 IDE에 완전한 코드-투-클라우드(code-to-cloud) 컨텍스트와 Wiz 보안 그래프에서 검증된 공격 표면(attack surface) 결과를 제공합니다. 이러한 기능을 통해 팀은 개발자의 개별 IDE에서 로컬로, 또는 버전 관리 시스템 내의 리포지토리 및 풀 리퀘스트(pull request) 수준에서 전역적으로 자동화된 에이전트 주도의 조치 워크플로우를 트리거할 수 있습니다.
섀도우 AI(shadow AI) 제거: Wiz의 동적인 AI 소프트웨어 자재 명세서(AI-BOM)는 환경 내의 모든 AI 프레임워크, 모델 및 IDE 확장 프로그램을 자동으로 인벤토리화합니다. 이를 통해 스택 전반에서 무엇이 코드를 작성하고 있는지에 대한 완벽한 가시성을 제공하며, Gemini Code Assist 및 GitHub Copilot과 같이 승인된 기업용 도구를 추적하는 동시에 승인되지 않은 섀도우 AI 플러그인을 발견할 수 있게 해줍니다.

Wiz 발표 내용에 대한 자세한 정보는 여기에서 확인하실 수 있습니다.

에이전트 및 에이전틱 웹(agentic web) 보안

클라우드 및 AI 워크로드를 보호하는 것 외에도, Google Cloud의 보안 내재화(secure-by-design) 기반은 에이전트부터 사기 방지, 웹에 이르기까지 AI의 속도로 혁신할 수 있도록 지원합니다.

Gemini Enterprise Agent Platform을 통한 에이전트 보안 및 거버넌스에이전트를 구축, 오케스트레이션, 관리 및 최적화하기 위해 오늘 우리는 다음이 포함된 Gemini Enterprise Agent Platform을 발표합니다.

액세스 관리 및 대규모 AI 거버넌스를 가능하게 하는 에이전트 ID(Agent Identity). 당사의 이 새로운 기능은 에이전트가 제한된 범위의 인적 위임(human delegation)과 특정 인증 흐름을 가지고 자율적으로 작동할 수 있도록 고유한 ID를 제공합니다.
모든 에이전트-대-에이전트(agent-to-agent) 및 에이전트-대-도구(agent-to-tool) 연결에 대한 정책 적용을 가능하게 하는 에이전트 게이트웨이(Agent Gateway). 이 기능은 엔터프라이즈 에이전트 트래픽을 관리하고 MCP 및 A2A(Agent2Agent)와 같은 에이전트 프로토콜을 이해하여 모든 에이전트 상호 작용을 검사하고 보호합니다.
모델 및 에이전트 상호 작용을 위한 런타임 보호 기능인 모델 아머(Model Armor)는 이제 에이전트 게이트웨이, 프리뷰로 제공되는 에이전트 런타임 및 Langchain, 그리고 정식 버전(GA)으로 제공되는 Firebase와 통합되어, 개발자가 코드를 변경할 필요 없이 에이전트 트래픽 및 상호 작용에 인라인 검증 및 무해화(sanitization)를 추가할 수 있도록 지원합니다. 이러한 통합은 Google Cloud 서비스 및 당사의 AI 포트폴리오 전반에서 프롬프트 인젝션, 도구 포이즈닝, 민감한 데이터 유출과 같은 런타임 위험에 대한 Model Armor의 보호 기능을 확장합니다.

Google Cloud 사기 방지 및 Chrome Enterprise를 통한 에이전틱 웹 보호오늘 우리는 정식 출시(GA)된 Google Cloud 사기 방지(Google Cloud Fraud Defense) 출시와 함께 reCAPTCHA를 진화시키고 있습니다. 이 포괄적인 플랫폼은 봇, 사람, 에이전트의 정당성과 권한을 식별하도록 설계되었습니다. Google 자체 생태계를 보호하는 것과 동일한 규모와 신호(signals)를 사용하는 사기 방지 기능은 인간 사용자와 AI 에이전트를 위한 에이전트 전용 기능을 곧 프리뷰로 제공할 예정이며, 이를 통해 계정 생성 및 로그인부터 결제 및 체크아웃에 이르는 디지털 상거래 여정을 안전하게 보호할 수 있습니다.

AI를 보호하려는 당사의 의지는 AI와 상호 작용하기 위한 핵심 엔드포인트인 브라우저까지 확장됩니다. Chrome Enterprise는 기업 데이터의 타협 없이 안전하게 AI를 수용하는 데 필요한 가시성과 제어 기능을 갖춘 AI 시대를 위한 포괄적인 데이터 보호를 제공합니다.

현재 프리뷰로 제공되는 AI 인식 확장 프로그램 위협 탐지(AI-aware extension threat detections)는 보안 팀이 비정상적인 AI 에이전트 활동을 탐지하고 대응하는 데 도움이 되는 고급 확장 프로그램 원격 분석 데이터(telemetry)를 표시할 수 있습니다.
곧 정식 출시될 새로운 섀도우 AI 리포팅(shadow AI reporting) 기능은 직원이 승인되지 않은 웹 기반 AI 및 SaaS 애플리케이션을 사용하는 것을 경고(flagging)하여 섀도우 AI 환경에 대한 가시성을 확보하는 데 도움을 줍니다.

신뢰할 수 있는 클라우드 (Trusted Cloud)의 새로운 소식

우리는 고객이 환경을 안전하게 보호할 수 있도록 클라우드 플랫폼의 ID, 데이터, 네트워크 전반에 걸쳐 지속적으로 새로운 보안 제어 기능을 제공하고 역량을 강화하고 있습니다. 오늘 발표하는 업데이트는 다음과 같습니다.

최신 IAM을 통한 권한 간소화최소 권한(least privilege) 원칙을 빠르고 간단하게 달성할 수 있도록, 당사는 IAM 역할 선택기(IAM role picker) 및 민감한 작업 재인증 기능과 같이 사용하기 쉬운 관리자, 편집자, 뷰어 역할을 통해 사전 정의된 역할 카탈로그를 간소화했습니다.

데이터 보안 (Data security)가장 민감한 데이터를 보호하고 AI 혁신을 가속화하기 위해 클라우드 플랫폼 데이터 보안 포트폴리오의 몇 가지 새로운 기능을 발표합니다.

컨피덴셜 컴퓨팅 (Confidential Computing): 오늘 파트너사인 NVIDIA와 함께 전 세계 프리뷰로 제공되는 Google Compute Engine(GCE) Confidential G4 VM에 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU를 탑재한 G4 VM을 위한 컨피덴셜 컴퓨팅(Confidential Computing) 지원을 발표하여, 광범위한 민감한 AI 워크로드의 기밀성과 무결성을 강화합니다. 또한 Intel 파트너십을 통해 6세대 Xeon 프로세서에 Intel TDX를 도입한 C4 Confidential VM의 프리뷰를 소개합니다. 이는 다양하고 복잡한 AI 및 분석 워크로드를 보호하는 동시에 업계 최고의 컴퓨팅 밀도와 성능을 제공합니다.
Cloud KMS (키 관리 서비스): 프리뷰로 제공되는 새로운 기밀 외부 키 관리자(Confidential External Key Manager, cEKM)를 발표합니다. 이를 통해 모든 리전에서 외부 키를 유연하게 호스팅 및 보호하고, 기밀 환경 내에서 검증 가능한 제어 권한을 유지할 수 있습니다.
양자 내성 암호 (Post-quantum cryptography, PQC): 양자 내성 알고리즘을 적용하여 자체 키(BYOK)를 가져올 수 있도록 지원하는 KMS 양자 안전 키 가져오기(KMS Quantum Safe Key Imports) 기능을 프리뷰로 도입합니다.
보안 비밀 관리자 (Secret Manager): 비밀번호 유출을 방지하고 프롬프트 인젝션 위험을 완화하기 위해 당사의 Secret Manager와 에이전트 개발 키트(Agent Development Kit)의 네이티브 통합을 정식 버전(GA)으로 출시합니다.

네트워크 보안 (Network security) Google Cloud의 교차 클라우드(Cross-Cloud) 네트워크 보안 제품은 몇 가지 새로운 기능을 제공합니다.

Cloud NGFW: 고도로 회피적인 제로데이 위협에 대한 방어를 지원하기 위해 올해 말 프리뷰로 제공될 예정인 Cloud NGFW 고급 맬웨어 샌드박스(advanced malware sandbox)를 발표합니다. 이 기능은 70,000명 이상의 Palo Alto Networks 고객의 데이터를 기반으로 학습하여 알려진 및 알려지지 않은 맬웨어의 99%를 차단하는 Palo Alto Networks Advanced Wildfire 기술을 기반으로 합니다.
Cloud Armor: Layer 7 애플리케이션 공격 및 제로데이 CVE(React2Shell 등)를 탐지하기 위해 Thales Imperva를 기반으로 작동하며 프리뷰로 제공되는 새로운 Cloud Armor 관리형 규칙(managed rules)을 출시했습니다.

SCC를 통한 Google Cloud 보안 고도화Google 클라우드 네이티브 보안 솔루션인 Security Command Center(SCC)는 Google Cloud상의 기존 애플리케이션과 AI 애플리케이션을 모두 보호하기 위한 클라우드 보안 기준(baseline)을 확립합니다.

지속적인 탐색(discovery) 및 포괄적인 위험 분석을 제공하여 위협, 취약점 및 잘못된 구성을 식별함으로써 AI 에이전트, 모델 및 MCP 서버를 안전하게 보호합니다.
SCC는 깊이 있는 런타임 가시성을 추가하여 Google Cloud 워크로드에 대한 섀도우 AI를 찾아냅니다. 곧 프리뷰로 제공될 예정인 SCC는 에이전트, Cloud Run이나 GKE에서 호스팅되는 MCP 서버, GKE에서 실행되는 추론 엔드포인트 등 관리되지 않는 에이전틱 워크로드를 자동으로 검색하고 이를 SCC의 태세(posture) 위협 탐지 결과로 표시합니다.
향상된 기능의 Security Command Center Standard 계층은 데이터 보안 태세 관리, 규정 준수, 취약점 관리 및 위험 분석을 제공하여 모든 Google Cloud 고객이 추가 비용 없이 도입 초기부터 강력한 보안, 규정 준수 및 위험 관리 범위를 확립할 수 있도록 지원합니다.

다음 단계로 나아가기

Google을 보안 팀의 일원으로 맞이하면 인텔리전스 중심의 AI 네이티브 방어력, 보안이 내재화(secure-by-design)된 개방형 클라우드의 자유, 그리고 조직의 확장이 되어줄 업계에서 가장 실전 경험이 풍부한 전문가들의 힘을 얻을 수 있습니다.

이러한 새로운 혁신 기술과 다가올 위협으로부터 안전하게 대비하는 방법에 대한 자세한 내용은 보안 스포트라이트(security spotlight) 세션을 시청해 확인해 보시기 바랍니다. 아울러 라이브 및 온디맨드 형태로 제공되는 다양하고 훌륭한 보안 세션(breakout sessions)들을 확인하여 Next '26의 모든 주요 발표 내용에 대해 자세히 알아보십시오.

IP를 넘어 URL까지: Google Cloud NGFW로 웹 보안의 차원을 높이세요.

Tue, 07 Apr 2026 17:30:00 +0000

해당 블로그의 원문은 2026년 4월 8일 Google Cloud 블로그(영문)에 게재되었습니다.

클라우드 퍼스트(Cloud-first) 환경에서 기존의 IP 기반 방어 체계만으로는 더 이상 보안 경계(Perimeter)를 완벽히 보호할 수 없습니다. 서비스가 공유 인프라 및 콘텐츠 전송 네트워크(CDN)로 마이그레이션됨에 따라, 정적 IP 주소와 FQDN(정규화된 도메인 이름)에만 의존하는 방식은 보안 사각지대(Security gaps)를 발생시킬 수 있습니다.

단일 IP 주소가 여러 서비스를 호스팅할 수 있고 IP 주소 자체가 빈번하게 변경되는 환경을 고려하여, Cloud 차세대 방화벽(NGFW) Enterprise에 와일드카드(wildcard) 기능을 갖춘 도메인 필터링을 새롭게 도입합니다. 이 새로운 기능은 한층 강화된 보안과 세분화된 정책 제어(Granular policy controls)를 제공합니다.

도메인 및 SNI 필터링이 중요한 이유

Cloud NGFW URL 필터링 서비스는 퍼블릭 및 내부 네트워크에서 발생하는 위협으로부터 워크로드를 안전하게 보호하기 위해 HTTP 페이로드에 대한 심층 패킷 검사(Deep Inspection)를 수행합니다. 이 서비스는 보안 제어를 애플리케이션 계층(Application Layer)으로 격상시키며, 악성 도메인에 대한 액세스를 효과적으로 제한합니다.

주요 사용 사례는 다음과 같습니다.

세분화된 이그레스 제어 (Granular egress control): 이 기능은 이그레스(아웃바운드) HTTP(S) 메시지에서 발견된 도메인 이름 및 SNI 정보를 기반으로 연결을 정밀하게 허용하거나 차단할 수 있도록 지원합니다. 레이어 7(L7) 헤더를 검사함으로써, 단일 IP가 여러 서비스를 호스팅할 때 비효율적인 기존의 IP 주소 및 FQDN 기반 필터링보다 훨씬 더 세밀한 제어력을 제공합니다.
복호화 없는 액세스 제어 (Control access without decrypting): 트래픽에 대한 전체 TLS 복호화(Decryption)를 수행하지 않으려는 조직의 경우에도, Cloud NGFW는 TLS 핸드셰이크 과정에서 제공되는 SNI 헤더를 기반으로 트래픽을 제어하여 보안 정책을 강제할 수 있습니다. 이를 통해 개인정보 보호 또는 규정 준수(Compliance) 목적으로 엔드투엔드(End-to-End) 암호화를 유지하면서도 효과적인 도메인 수준의 필터링이 가능해집니다.
운영 오버헤드 감소 (Reduced operational overhead): 도메인 기반 필터링을 구현하면 자주 변경되는 IP 주소 및 DNS 레코드를 추적하기 위해 소요되는 지속적인 유지보수 작업을 줄일 수 있습니다. 동적인 네트워크 속성 대신 안정적인 도메인 식별자에 집중함으로써, 보안 팀은 방화벽 룰베이스(Rulebases)를 업데이트하는 데 드는 수동 작업을 최소화할 수 있습니다.
유연한 매칭 (Flexible matching): 이 서비스는 URL 목록 내의 매처(Matcher) 문자열을 활용하며, 도메인 및 하위 도메인에 대한 기준을 정의하기 위해 제한된 와일드카드 도메인을 지원합니다. 예를 들어 *.example.com과 같은 와일드카드를 사용하면 단일 필터로 관련된 모든 하위 도메인을 포괄할 수 있어, 수천 개의 개별 FQDN 항목을 일일이 정의하는 것보다 훨씬 확장성(Scalable) 있는 솔루션을 제공합니다.
보안 강화 (Improved security): URL 필터링은 SNI 헤더 스푸핑(Spoofing)과 같은 정교한 공격 기법으로부터 시스템을 보호하여 전반적인 보안 태세(Security Posture)를 크게 향상시킵니다. 애플리케이션에 대한 액세스를 허용하기 전에 L7 헤더를 평가함으로써, Cloud NGFW는 공격자가 하위 레이어의 식별자를 단순 스푸핑하여 보안 통제를 우회하는 것을 원천적으로 차단합니다.

Cloud NGFW URL 필터링 작동 방식

URL 필터링 서비스는 분산형 아키텍처(Distributed Architecture)를 사용하여 L7에서 트래픽을 검사하는 방식으로 작동합니다.

Cloud NGFW URL 필터링 서비스

세 가지 간단한 단계만으로 URL 필터링을 시작할 수 있습니다.

Cloud NGFW 엔드포인트 배포:
1. 첫 번째 단계는 특정 영역(Zone)에 Cloud NGFW 엔드포인트를 생성하고 배포하는 것입니다. NGFW 엔드포인트는 조직 수준의 리소스입니다. 배포하기 전에 적절한 권한을 보유하고 있는지 확인하십시오.
2. 엔드포인트가 배포되면 원하는 하나 이상의 VPC에 연결(associate)할 수 있습니다.
보안 프로필 및 보안 프로필 그룹 생성:
1. URL 필터링 보안 프로필은 매처(Matcher) 문자열이 포함된 URL 필터와 그에 따른 작업(허용 또는 거부)을 정의합니다.
2. 보안 프로필 그룹은 이러한 보안 프로필들을 담는 컨테이너 역할을 하며, 방화벽 정책 규칙에서 이를 참조합니다. 원하는 URL, 와일드카드 FQDN을 사용하여 URL 필터링 보안 프로필을 생성하고 이를 보안 프로필 그룹에 추가하십시오.
3. 보안 프로필 그룹이 생성되면, 방화벽 정책에서 해당 보안 프로필 그룹을 참조해야 합니다.
정책 강제 적용 (Policy enforcement):
1. apply_security_profile_group 작업을 사용하는 계층적(Hierarchical) 또는 글로벌 네트워크 방화벽 정책 규칙을 구성하고 보안 프로필 그룹의 이름을 지정하여 서비스를 활성화합니다.

방화벽 정책 규칙 구성에 대한 자세한 내용은 다음을 참조하십시오.

시작하기

Cloud NGFW URL 필터링을 시작하려면 문서 및 코드랩(Codelab)을 확인해 보시기 바랍니다.

Gemini Code Assist의 새로운 메모리 기능으로 AI 코드 리뷰의 수준을 한 단계 높이세요

Mon, 10 Nov 2025 17:00:00 +0000

* 본 아티클의 원문은 2025년 11월 11일 Google Cloud 블로그(영문)에 게재되었습니다.

가장 이상적인 코드 리뷰 피드백은 구체적이고 일관되며 프로젝트의 히스토리를 깊이 이해하고 있어야 합니다.

하지만 오늘날의 AI 코드 리뷰 에이전트는 대부분 상태 비저장(stateless), 즉 과거의 상호작용을 기억하지 못합니다. 이는 이전에 거부했던 피드백을 새로운 풀 리퀘스트(PR)에서 또다시 마주하게 될 수 있음을. 에이전트가 팀의 가이드를 학습하지 못해, 개발자의 불만과 반복적인 작업을 초래하는 것입니다.

오늘 Google Cloud는 엔터프라이즈 및 개인 개발자 모두를 위해 GitHub용 Gemini Code Assist의 새로운 메모리 기능을 출시합니다. 이제 풀 리퀘스트 내에서 직접 주고받은 상호작용과 피드백을 기반으로 도출된 팀의 코딩 표준, 스타일, 모범 사례 반영하여 동적이고 지속적으로 발전하는 메모리를 만들 수 있습니다. 메모리는 설치 시 사용자별로 분리된 Google 관리 프로젝트에 안전하게 저장되어 다른 사용자와 완벽하게 격리됩니다.

메모리 기능의 작동 방식

메모리 기능은 코드 리뷰 에이전트를 과거를 기억하지 못하는 단순한 도구에서 팀에 맞춰 학습하고 적응하는 장기 프로젝트 기여자로 탈바꿈시킵니다.

자동 메모리 vs 수동 메모리

GitHub용 Gemini Code Assist는 이미 styleguide.md 파일 형식의 메모리를 지원하고 있습니다. 이 규칙들은 에이전트의 프롬프트에 추가되므로 정적이고 보편적인 가이드라인을 적용하는 데 적합합니다.

반면 이번에 소개된 영구 메모리(Persistent memory)는 훨씬 더 동적이고 자동화된 접근 방식을 도입합니다. 이 기능은 수동 작업 없이도 풀 리퀘스트 상호작용에서 규칙을 자동으로 추출합니다. 이렇게 학습된 규칙은 효율적으로 저장되며 리뷰 중인 특정 코드와 관련된 경우에만 검색되어 적용됩니다. 이를 통해 팀에 맞춰 조정되는 더 스마트하고 확장 가능한 메모리가 만들어집니다.

이 프로세스는 다음과 같은 세 가지 핵심 원칙을 기반으로 합니다.

1. 상호작용을 통해 학습

이 프로세스는 사용자와 팀이 현재 수행하고 있는 코드 리뷰를 수행하는 것에서부터 시작됩니다. 풀 리퀘스트가 병합(merge)되면 GitHub용 Gemini Code Assist는 댓글 스레드를 분석하여 피드백을 학습합니다. 예를 들어 GitHub용 Gemini Code Assist가 .java 파일에서 'import 문을 줄 바꿈하지 마세요'라고 지적했지만 작성자가 댓글에서 이에 동의하지 않는 댓글을 남긴다면, 에이전트는 이 상호작용을 귀중한 피드백으로 간주하고 저장합니다. 풀 리퀘스트가 병합될 때까지 기다림으로써 대화가 완전히 마무리되고 해당 코드가 신뢰할 수 있는 소스(source of truth)가 됩니다.

2. 지능적인 규칙 생성, 업데이트, 저장

영구 메모리는 강력한 Gemini 모델을 사용하여 단순한 상호작용에서 일반화되고 재사용 가능한 일반화된 규칙을 추론해냅니다. 위 예시에서는 "Java에서 import 문은 줄 바꿈될 수 있습니다"와 같은 자연어 규칙을 생성할 것입니다.

3. 향후 리뷰에 학습된 규칙 적용

규칙이 메모리에 저장되면 에이전트는 이를 두 가지 중요한 방식으로 활용합니다.

초기 리뷰 가이드: 에이전트는 새로운 풀 리퀘스트 분석을 시작하기 전에 영구 메모리에서 저장소와 관련된 광범위한 규칙을 쿼리합니다. 이를 통해 팀의 기존 패턴에 더 부합하도록 초기 분석을 형성할 수 있습니다.
자체 제안 필터링: 에이전트는 리뷰 코멘트 초안을 생성한 후 2차 검증을 수행합니다. 자체 코멘트과 관련성이 매우 높은 특정 규칙들을 다시 한 번 검색하여 평가합니다. 이는 에이전트의 제안이 이전에 학습한 모범 사례을 위반하지 않도록 하는 필터 역할을 하여 부적절한 댓글을 사용자가 보기 전에 스스로 삭제하거나 수정할 수 있도록 합니다.

더 많은 규칙이 누적되면 팀의 고유한 지식(tribal knowledge)이 코드 리뷰를 통해 코드베이스 전반에 공유됩니다.

지금 시작하기

앱을 처음 사용하시나요?

개인 개발자 또는 OSS 유지관리자인 경우 GitHub Marketplace에서 GitHub용 Gemini Code Assist를 설치하세요.
엔터프라이즈 고객인 경우 Google Cloud 콘솔을 통해 온보딩하세요. 문서를 검토하여 설정 및 코드 리뷰 기능 사용에 대해 자세히 알아보세요. 전체 프로세스에 대한 설명은 이 동영상에서 확인하실 수 있습니다.

이미 앱이 설치되어 있나요?

개인 개발자 또는 OSS 유지관리자인 경우 Github 관리자 패널의 Gemini Code Assist에서 이 기능을 활성화하세요.
엔터프라이즈 고객인 경우 Google Cloud 콘솔에서 이 기능을 활성화하세요.

NLP, BigQuery, 임베딩을 사용한 멀티모달 검색 솔루션

Mon, 17 Mar 2025 06:15:00 +0000

* 본 아티클의 원문은 2024년 8월 27일 Google Cloud 블로그(영문)에 게재되었습니다.

오늘날의 디지털 환경은 텍스트뿐만 아니라 이미지와 동영상을 포괄하는 방대한 정보를 제공합니다. 기존 엔터프라이즈 검색엔진은 주로 텍스트 기반 쿼리용으로 설계되었기 때문에 시각적 콘텐츠 분석에 있어서는 기대에 미치지 못하는 경우가 많습니다. 그러나 자연어 처리(NLP)와 멀티모달 임베딩의 결합을 통해 고객이 텍스트 기반 콘텐츠 검색과 동일한 방식으로 이미지나 동영상 또는 그 안에 포함된 정보를 검색할 수 있는 새로운 검색의 시대가 열리고 있습니다.

이 블로그에서는 텍스트를 사용한 이미지 검색 또는 주어진 쿼리를 기반으로 이미지에서 텍스트 찾기와 같은 교차 모달 시맨틱 검색 시나리오를 위해 특별히 설계된 강력한 멀티모달 임베딩 모델을 사용하여 이미지, 동영상 또는 둘 다에서 텍스트 검색을 수행하는 데모를 소개합니다. 멀티모달 임베딩은 이러한 작업을 수행하기 위한 핵심입니다.

데모를 통해 텍스트로 이미지 검색, 텍스트로 동영상 검색, 텍스트로 이미지와 동영상 통합 검색을 수행합니다.

어떻게 작동하는지 살펴보겠습니다.

이미지, 동영상, 텍스트 통합 검색을 위한 솔루션

이 아키텍처는 Google Cloud Storage를 활용하여 미디어 파일을 저장하고 BigQuery 객체 테이블을 사용하여 이러한 파일을 참조합니다. 멀티모달 임베딩 모델은 이미지와 동영상의 시맨틱 임베딩을 생성한 다음 효율적인 유사성 검색을 위해 BigQuery에서 색인을 생성하여 원활한 교차 모달 검색 경험을 지원합니다.

텍스트에서 시각적 콘텐츠로: 이미지 및 동영상을 위한 멀티모달 검색

유사한 솔루션을 구현하려면 다음 단계를 따르세요.

1~2단계: Cloud Storage에 이미지 및 동영상 데이터 업로드

모든 이미지 및 동영상 파일을 Cloud Storage 버킷에 업로드합니다. 데모를 위해 Google 검색을 통해 GitHub에서 제공하는 일부 이미지와 동영상을 다운로드했습니다. Cloud Storage 버킷에 업로드하기 전에 README.md 파일을 삭제해야 합니다.

미디어 파일 준비

자체 데이터를 사용하여 작업할 모든 이미지와 동영상 파일을 수집합니다.
파일을 쉽게 관리하고 액세스할 수 있도록 적절하게 구성하고 이름을 지정합니다.

Cloud Storage에 데이터 업로드

Cloud Storage 버킷을 아직 만들지 않았으면 만듭니다.
미디어 파일을 버킷에 업로드합니다. Google Cloud 콘솔, gsutil 명령줄 도구 또는 Cloud Storage API를 사용할 수 있습니다.
파일이 제대로 업로드되었는지 확인하고 버킷의 이름과 파일이 저장된 경로를 메모합니다(예: gs://your-bucket-name/your-files).

3단계: BigQuery에서 객체 테이블 만들기

Cloud Storage 버킷에 있는 소스 이미지 및 동영상 파일을 가리키도록 BigQuery에서 객체 테이블을 만듭니다. 객체 테이블은 Cloud Storage에 있는 비정형 데이터 객체에 대한 읽기 전용 테이블입니다. BigQuery 객체 테이블의 기타 사용 사례를 여기에서 알아볼 수 있습니다.

객체 테이블을 만들기 전에 여기에 설명된 대로 연결을 설정합니다. 연결의 주 구성원에 'Vertex AI 사용자' 역할이 있고 프로젝트에 대해 Vertex AI API가 사용 설정되어 있는지 확인합니다.

원격 연결 만들기

code_block: <ListValue: [StructValue([('code', "CREATE OR REPLACE MODEL `dataset_name.model_name`\r\n REMOTE WITH CONNECTION `us.connection_name`\r\n OPTIONS (ENDPOINT = 'multimodalembedding@001');"), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc99e10>)])]>

객체 테이블 만들기

code_block: <ListValue: [StructValue([('code', "CREATE OR REPLACE EXTERNAL TABLE `dataset_name.table_name`\r\nWITH CONNECTION `us.connection_name`\r\nOPTIONS\r\n ( object_metadata = 'SIMPLE',\r\n uris = ['gs://bucket_name/*']\r\n );"), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc9b650>)])]>

4단계: 멀티모달 임베딩 만들기

선행 학습된 멀티모달 임베딩 모델을 사용하여 미디어 데이터의 임베딩(수치적 표현)을 생성합니다. 이러한 임베딩은 콘텐츠의 시맨틱 정보를 캡처하여 효율적인 유사성 검색을 가능하게 합니다.

code_block: <ListValue: [StructValue([('code', "CREATE OR REPLACE TABLE `dataset_name.table_name`\r\nAS\r\nSELECT *\r\nFROM\r\n ML.GENERATE_EMBEDDING(\r\n MODEL `dataset_name.model_name`,\r\n (SELECT * FROM `dataset_name.table_name`))\r\nCheck for any errors during the embedding generation process. Errors may arise due to file format issues or problems with the source file.\r\nSELECT DISTINCT(ml_generate_embedding_status),\r\n COUNT(uri) AS num_rows\r\nFROM `dataset_name.table_name`\r\nGROUP BY 1;\r\nIf an error occurs, we can remove the problematic entry from the embedding table.\r\nDELETE FROM `dataset_name.table_name`\r\nWHERE ml_generate_embedding_status like '%INVALID_ARGUMENT:%';"), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc997d0>)])]>

5단계: BigQuery에서 벡터 색인 만들기

이미지 및 동영상 데이터에서 생성된 임베딩을 효율적으로 저장하고 쿼리하기 위해 BigQuery에서 임베딩의 벡터 색인을 생성합니다. 이 색인은 나중에 유사성 검색을 수행하는 데 필수입니다.

code_block: <ListValue: [StructValue([('code', "CREATE OR REPLACE\r\n VECTOR INDEX `index_name`\r\nON\r\n dataset_name.table_name(ml_generate_embedding_result)\r\n OPTIONS (\r\n index_type = 'IVF', distance_type = 'COSINE');"), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc99a50>)])]>

6단계: 사용자의 쿼리를 텍스트 입력으로 보내기

사용자의 쿼리는 '풀을 먹고 있는 코끼리'와 같은 간단한 자연어 텍스트 입력으로 전송됩니다. 사용자가 쿼리를 제출하면 시스템은 미디어 데이터 처리 방식과 유사하게 이 텍스트 입력을 임베딩으로 변환합니다.

7단계: 사용자 쿼리의 텍스트 임베딩 만들기

동일한 멀티모달 임베딩 모델을 사용하여 사용자 쿼리의 텍스트 임베딩을 만들 수 있습니다. 사용자 쿼리를 저장된 임베딩과 비교하려면 먼저 동일한 멀티모달 임베딩 모델을 사용하여 쿼리 자체의 임베딩을 생성하세요.

code_block: <ListValue: [StructValue([('code', 'CREATE OR REPLACE TABLE `dataset_name.table_name`\r\nAS\r\nSELECT * FROM ML.GENERATE_EMBEDDING(\r\n MODEL `dataset_name.model_name`,\r\n (\r\n SELECT ‘elephant eating grass’ AS content\r\n )\r\n);'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc992d0>)])]>

8단계: 유사성 검색 수행

유사성 검색은 사용자 쿼리와 이미지 및 동영상이 포함된 소스 데이터 간 비교를 통해 수행되며, 이때 벡터 검색이 사용됩니다. 4단계에서 생성된 벡터 색인을 사용하여 유사성 검색을 수행해 사용자 쿼리와 가장 유사한 미디어 항목을 찾습니다. 이 검색은 사용자 쿼리의 임베딩과 미디어 데이터의 임베딩을 비교합니다.

code_block: <ListValue: [StructValue([('code', "SELECT base.uri AS gcs_uri, distance\r\n FROM\r\n VECTOR_SEARCH(\r\n TABLE `XXXXX.XXXXXX`,\r\n 'ml_generate_embedding_result',\r\n TABLE `XXXXX.XXXXXX`,\r\n 'ml_generate_embedding_result',\r\n top_k => 5,\r\n distance_type => 'COSINE',\r\n ORDER BY distance;"), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f162dc99910>)])]>

9단계: 이미지 및 동영상 검색 결과를 사용자에게 반환

마지막으로 유사성 검색의 결과가 사용자에게 표시됩니다. 결과에는 Cloud Storage 버킷에 저장된 가장 유사한 이미지 및 동영상의 URI와 유사성 점수(차이)가 포함됩니다. 이에 따라 사용자는 쿼리와 관련된 미디어 항목을 보거나 다운로드할 수 있습니다.

새로운 차원의 검색을 지원하는 멀티모달 임베딩

멀티모달 임베딩은 이미지와 동영상 형식을 모두 처리할 수 있기 때문에 몇 단계만 거치면 시각적 콘텐츠 전반에 걸쳐 강력한 검색 경험을 구축할 수 있습니다. 이미지 검색, 동영상 검색, 이미지와 동영상 통합 검색 등 모든 사용 사례에서 사용자 경험을 향상하고 콘텐츠 검색을 간소화하는 새로운 차원의 검색을 활용해 보세요.

Vertex AI 그라운딩: 모델 신뢰성 개선 및 할루시네이션 감소

Thu, 16 Jan 2025 03:32:00 +0000

* 본 아티클의 원문은 2024년 12월 3일 Google Cloud 블로그(영문)에 게재되었습니다.

지난 9월에 열린 Gemini at Work 이벤트에서 Google Cloud는 생성형 AI가 기업의 업무 방식을 어떻게 혁신하고 있는지 보여줬습니다. 이 이벤트에서 다룬 모든 고객 혁신 사례를 토대로 한 가지 사실이 분명히 드러났습니다. 작년에는 생성형 AI를 탐색하고 실험했다면 올해는 생성형 AI가 실질적인 영향력을 발휘하기 시작했다는 것입니다.

생성형 AI에는 업무 방식을 혁신할 수 있는 잠재력이 있습니다. 하지만 이를 위해서는 결과물의 신뢰성과 관련성이 전제되어야 합니다. 대규모 언어 모델(LLM)은 학습 당시의 지식에 고착되어 최신 정보와 내부 데이터에 대한 액세스가 부족한 경우가 많습니다. 또한 창의성과 확률에 근거한 설계로 인해 할루시네이션이 발생하기 쉽습니다. 출처 표시도 기본적으로 제공하지 않습니다. 이러한 한계는 컨텍스트와 관련성이 높고 신뢰할 수 있는 최신 응답을 제공하는 데 방해가 됩니다.

이러한 문제를 극복하기 위해서는 LLM을 신뢰할 수 있는 정보 소스와 연결해야 합니다. 이때 그라운딩, 검색 증강 생성(RAG), 검색 등의 개념이 중요한 역할을 합니다. 그라운딩은 현실을 근거로 응답을 생성하도록 LLM에 외부 정보를 제공하여 할루시네이션이 발생하거나 결과를 지어낼 가능성을 줄입니다. RAG는 기술 자료에서 관련 정보를 찾아 LLM에 컨텍스트로 제공하는 특정 그라운딩 기법입니다. 검색은 시스템이 기술 자료에서 알맞은 정보를 찾는 데 사용되는 RAG의 핵심 검색 기술입니다.

생성형 AI가 진정한 잠재력을 발휘하려면 Google에서 기업 지식 (Enterprise truth)이라고 부르는 소스에 LLM을 그라운딩해야 합니다. 이는 문서, 이메일, 스토리지 시스템, 서드 파티 애플리케이션은 물론, 지식 노동자의 업무 수행을 돕는 인터넷의 최신 정보를 포함한 신뢰할 수 있는 내부 데이터를 의미합니다.

기업 지식을 활용하면 그라운딩된 LLM에서 보다 정확하고 컨텍스트와 관련성이 높은 최신 응답을 제공하여 생성형 AI로 실질적인 영향을 미칠 수 있게 됩니다. 즉, 더욱 정확한 맞춤 지원을 통해 고객 서비스를 개선하고, 보고서 생성 및 문서 요약 등의 작업을 더 정확하게 자동화하고, 여러 데이터 소스를 분석해 얻은 심층적인 인사이트로 트렌드와 기회를 파악하고, 궁극적으로 고객 니즈와 마켓 트렌드에 대한 보다 풍부한 이해를 바탕으로 새로운 제품과 서비스를 개발하여 혁신을 주도할 수 있습니다.

이제 Google Cloud의 AI 플랫폼인 Vertex AI의 최신 개선사항을 통해 이러한 문제를 쉽게 해결하는 방법을 살펴보겠습니다.

aside_block: <ListValue: [StructValue([('title', '$300 상당의 무료 크레딧으로 Google Cloud AI 및 ML을 사용해 보세요'), ('body', <wagtail.rich_text.RichText object at 0x7f162dc25cd0>), ('btn_text', '무료로 빌드 시작하기'), ('href', 'http://console.cloud.google.com/freetrial?redirectPath=/vertex-ai/'), ('image', None)])]>

인터넷의 최신 지식 활용하기

LLM은 보유한 지식이 이전에 학습한 데이터에 고착되며 이 데이터는 시간이 지나면 오래된 정보가 된다는 근본적인 한계가 있습니다. 이는 최신 뉴스, 기업 연간 실적 보고서, 스포츠 경기 또는 콘서트 날짜 등 최신 데이터가 필요한 모든 질문의 응답 품질에 영향을 미칩니다. 'Google 검색으로 그라운딩'을 사용하면 언어 모델이 인터넷에서 최신 정보를 찾을 수 있습니다. 소스 링크도 제공되어 사실확인을 거치거나 자세히 알아볼 수도 있습니다. 'Google 검색으로 그라운딩'은 Gemini 모델에서 바로 이용 가능합니다. 전환 버튼을 클릭하여 사용 설정하기만 하면 Gemini에서 Google 검색을 사용해 대답을 그라운딩합니다.

다음번 요청에서도 'Google 검색으로 그라운딩'이 필요할지 잘 모르겠다면 새로운 '동적 검색' 기능을 사용하면 됩니다. 이 기능을 사용 설정하면 Gemini에서 쿼리를 해석하고 대답의 정확성을 높이기 위해 최신 정보가 필요한지 여부를 예측합니다. 사용자는 예측 점수 기준을 정하여 언제 Gemini에서 'Google 검색으로 그라운딩'을 사용할지 설정할 수 있습니다. 이렇게 하면 Gemini가 사용자 쿼리에 필요할 때만 Google 검색을 활용하므로 필요에 따라 고품질 결과를 얻는 한편 비용도 절감하는 일거양득의 효과를 볼 수 있습니다.

모든 기업 지식에 데이터를 연결하기

최신 정보에 대한 연결은 시작에 불과합니다. 모든 기업의 가치는 기업의 독점 데이터에서 기인합니다. RAG는 LLM을 학습하지 않은 데이터 소스에 연결하여 응답을 생성하기 전에 이 데이터에서 정보를 검색하도록 만들어 LLM을 개선하는 기법입니다. RAG에는 여러 옵션이 있지만 대다수가 품질, 신뢰성, 확장성이 부족하여 기업에게 적합하지 않습니다. 그라운딩된 생성형 AI 앱의 품질은 해당 앱의 데이터 검색 능력을 뛰어넘을 수 없습니다.

이때 Vertex AI를 사용하면 도움이 됩니다. Vertex AI가 제공하는 포괄적인 서비스 제품군은 즉시 사용 가능한 간단한 솔루션을 찾거나, API로 자체 RAG 시스템을 빌드하거나, RAG를 위해 고성능 벡터 임베딩을 사용하는 등 모든 니즈를 충족합니다.

기업을 위한 쉬운 RAG 가이드를 소개합니다.

우선 대부분의 엔터프라이즈 애플리케이션에 즉시 이용 가능한 RAG를 사용하세요. Vertex AI Search는 Google 품질 수준의 RAG(검색)로 엔드 투 엔드 정보 검색 프로세스를 간소화합니다. Vertex AI Search에서는 RAG 서비스는 물론 광학 문자 인식(OCR), 데이터 이해 및 주석, 스마트 청킹, 임베딩, 색인 생성, 저장, 쿼리 재작성, 맞춤법 검사 등 RAG 시스템 빌드를 위한 다양한 요소를 모두 Google Cloud가 관리합니다. Vertex AI Search는 문서, 웹사이트, 데이터베이스, 정형 데이터를 포함한 데이터에 연결되며 기본 제공 커넥터로 JIRA 및 Slack과 같은 서드 파티 앱에도 연결됩니다. 무엇보다도, 몇 분이면 설정할 수 있습니다.

개발자는 GitHub에 있는 Vertex Grounded Generation playground에서 Google 검색과 기업 데이터를 사용한 그라운딩을 경험할 수 있습니다. 여기에서 쿼리의 그라운딩된 응답과 그라운딩되지 않은 응답을 나란히 비교할 수 있습니다.

다음으로, 특정 사용 사례의 RAG를 직접 빌드하세요. 자체 RAG 시스템을 빌드해야 하는 경우를 위해 Vertex AI에서는 레이아웃 파싱, 순위 지정, 그라운딩된 생성, 그라운딩 확인, 텍스트 임베딩, 벡터 검색 등 바로 이용할 수 있는 다양한 작업을 개별 API로 제공합니다. 레이아웃 파서는 비정형 문서를 정형 표현으로 변환하며, 차트와 수치의 멀티모달 이해를 토대로 테이블과 이미지가 삽입된 PDF 등 다양한 문서의 검색 품질을 크게 개선합니다. 실제로 이러한 문서는 대다수 RAG 시스템의 과제입니다.

Google Cloud의 벡터 검색 서비스는 고성능 커스텀 임베딩 기반 정보 검색이 필요한 기업에 특히 유용합니다. 벡터 검색은 수십억 개의 벡터로 확장할 수 있으며 몇 밀리초 내에 최근접 이웃을 찾을 수 있어 규모가 큰 기업의 니즈를 충족하는 데 적합합니다. 이제 벡터 검색에서 하이브리드 검색도 지원합니다. 임베딩과 시맨틱 검색 기술을 결합하여 사용자에게 가장 관련성 높고 정확한 응답을 제공합니다.

생성형 AI 앱을 어떻게 빌드하든 특정한 니즈를 충족하기 위해서는 철저한 평가가 필수입니다. Vertex AI의 Gen AI Evaluation Service를 사용하면 일반적인 벤치마크에서 더 나아가 자체 평가 기준을 정의할 수 있습니다. 따라서 창의적인 콘텐츠를 생성하거나 문서를 분석하는 등의 고유한 사용 사례에 모델이 얼마나 부합하는지 정확히 파악할 수 있습니다.

막연한 기대감에서 벗어나 실질적인 영향력을 행사하기

초기에는 생성형 AI를 둘러싼 기대감이 주를 이루었으나 이제는 보다 실용적인 단계로 나아가 실제 애플리케이션과 실질적인 비즈니스 가치에 초점을 맞추고 있습니다. 이러한 목표를 달성하려면 그라운딩이 중요합니다. 그라운딩은 AI 모델이 단순히 텍스트만 생성하는 것이 아니라 고유한 기업 지식에 기반한 인사이트를 생성하도록 합니다.

Alaska Airlines에서는 자연어 검색을 개발하여 유능한 여행사 직원과 상호작용하는 듯한 AI 기반의 대화형 환경을 여행객에게 제공하고 있습니다. 이 챗봇은 여행 예약을 간소화하고 고객 경험을 개선하고 브랜드 아이덴티티를 강화하는 것을 목표로 하고 있습니다.
Motorola Mobility의 Moto AI는 Gemini와 Imagen을 활용하여 대화 요약, 알림 이메일, 이미지 생성, 자연어 검색 등의 기능으로 스마트폰 사용자에게 새로운 차원의 생산성, 창의성, 재미를 선사합니다. 이 모든 기능이 Google 검색으로 그라운딩된 신뢰할 수 있는 대답을 제공합니다.
Cintas는 고객 서비스 및 영업팀에서 주요 정보를 쉽게 찾을 수 있도록 Vertex AI Search를 사용해 내부 지식 센터를 개발하고 있습니다.
Workday는 Vertex AI에서 자연어 처리를 사용해 기술직 및 비기술직 사용자 모두가 데이터 인사이트에 쉽게 접근할 수 있습니다.

그라운딩을 도입하면 비즈니스에서 생성형 AI의 잠재력을 최대한 활용하고 혁신의 시대를 선도할 수 있습니다. 자세히 알아보려면 Google Cloud의 그라운딩 서비스에 대해 깊이 있게 다룬 Gemini at Work 세션을 확인하세요. 그라운딩을 비롯한 더 나은 검색으로 비즈니스 성과를 개선하는 방법을 알아보려면 이 eBook을 다운로드하세요.

지금 바로 RAG에 즉시 이용 가능한 Vertex AI Search를 사용하여 생성형 AI 애플리케이션을 지원해 보세요. $1,000의 무료 크레딧이 제공됩니다.

최신 업데이트 : Gemini, Imagen, Gemma and MLOps on Vertex AI

Fri, 26 Apr 2024 01:00:00 +0000

*본 아티클의 원문은 2024년 4월 10일 Google Cloud 블로그(영문)에 게재되었습니다.

모든 하이퍼스케일 제공업체의 다양한 파운데이션 모델에 대한 액세스, 강력한 인프라 옵션, 모델 개발 및 MLOps를 위한 깊이 있는 도구 모음을 갖춘 Vertex AI는 생성형 AI 앱과 에이전트를 빌드할 뿐만 아니라 배포하고 유지관리할 수 있는 원스톱 플랫폼입니다. 오늘 Google Cloud Next에서는 Vertex AI를 지속적으로 향상시키는 흥미로운 모델 업데이트와 플랫폼 기능을 다음과 같이 소개합니다.

Gemini 1.5 Pro가 이제 Vertex AI에서 공개 프리뷰 버전으로 제공되어 전 세계 개발자가 세계 최대 규모의 컨텍스트 윈도우를 사용할 수 있게 되었습니다. 이제 이미지 생성 모델 제품군인 Imagen 2.0을 사용해 텍스트 프롬프트를 바탕으로 4초 길이의 짧은 애니메이션 이미지를 만들 수 있습니다. 그리고 Imagen 2.0에서 인페인팅/아웃페인팅과 디지털 워터마크 등의 이미지 편집 기능도 정식 버전으로 출시할 예정입니다. 또한 경량 모델 제품군인 Gemma의 신규 모델, CodeGemma도 Vertex AI에 추가됩니다.
생성형 AI 서비스에서는 응답의 정확성이 매우 중요하기 때문에 Vertex AI의 그라운딩 기능을 확장하고 있습니다. 대표적으로 Google Search를 사용해 응답을 바로 그라운딩할 수 있는 기능이 있으며, 현재 공개 프리뷰 버전으로 제공 중입니다. 이 기능을 통해 Vertex AI 사용자는 이제 모델 응답의 정확성을 대폭 개선하는 고품질의 최신 정보에 액세스할 수 있습니다.
Google Cloud는 고객이 프로덕션 단계에 있는 모델을 관리하고 배포하는 데 도움을 주기 위해 생성형 AI를 위한 MLOps 기능을 확장하고 있습니다. 여기에는 새로운 프롬프트 관리와 대규모 모델의 테스트 서비스가 포함됩니다. 이러한 기능은 조직이 생성형 AI 모델에서 대규모로 최대한의 성능을 끌어내고 실험부터 프로덕션까지 보다 빠르게 반복할 수 있도록 만들어 줍니다.

각 발표 내용을 아래에서 자세히 살펴보겠습니다.

고객에게 최상의 엔터프라이즈용 모델 제공

Google Cloud는 고객에게 최상의 엔터프라이즈용 모델을 제공한다는 사명을 다하기 위해 최선을 다하고 있습니다. 이에 따라 지난 두 달 사이에만 Google의 Gemini 1.0 Pro부터 Gemini를 만들기 위해 투입된 연구 및 기술을 기반으로 하는 경량 개방형 모델 제품군인 Gemma, Anthropic의 Claude 3 모델 제품군까지 다양한 유형의 최첨단 퍼스트 파티 모델, 서드 파티 모델, 개방형 모델에 대한 액세스가 Vertex AI에 추가되었습니다.

2월에 발표된 Gemini 1.5 Pro는 현재 공개 프리뷰가 진행 중이며, 고객에게 100만 토큰 규모의 컨텍스트 윈도우를 세계 최초로 제공하고 있습니다. 이 획기적인 발전은 특정 요청과 관련된 엄청난 양의 데이터를 바탕으로 한 네이티브 멀티모달 추론을 가능하게 합니다.

현재 여러 고객이 AI 기반 고객 서비스 담당자와 개인 지도 교사를 빌드하고, 방대한 양의 복잡한 재무 문서를 분석하고, 문서 내에서 불완전한 부분을 찾아내고, 자연어를 통해 전체 코드베이스 또는 데이터 모음을 탐색하는 등 완전히 새로운 사용 사례를 구축하고 있습니다.

United Wholesale Mortgage는 Gemini 1.5 Pro를 사용하여 인수 절차를 보강하고 주택담보대출 신청 절차를 자동화하고 있습니다.

SAP는 Gemini 1.5 Pro 모델을 SAP 생성형 AI 허브에 포함하는 방안을 검토하고 있습니다. SAP 생성형 AI 허브는 관련성 있고 신뢰할 수 있으며 책임 있는 비즈니스 AI의 도입을 촉진하며 다양한 대규모 언어 모델에 대한 즉각적인 액세스를 제공하기 위한 장소입니다.

일본의 대표적인 민영 방송사 중 하나인 TBS는 Gemini 1.5 Pro를 사용하여 대규모 미디어 자료에 메타데이터를 태그하는 작업을 자동화하고 있습니다. 이를 통해 프로덕션 과정에서 자료를 찾는 작업의 효율을 크게 개선했습니다.

또한 Replit은 보다 우수한 정확성, 성능, 속도로 코드를 생성, 설명, 변환하기 위해 Gemini 1.5 Pro를 테스트하고 있습니다.

또한 Vertex AI의 Gemini 1.5 Pro는 이제 오디오 스트림 처리 작업을 지원합니다. 처리할 수 있는 오디오 스트림에는 음성은 물론 동영상의 오디오까지 포함됩니다. 덕분에 원활한 cross modal 분석을 통해 텍스트, 이미지, 동영상, 오디오 등 여러 형식에서 인사이트를 얻을 수 있게 되었습니다. 예를 들어 사용자는 Gemini 1.5 Pro를 사용해 여러 건의 실적 발표 및 투자자 회의에서 스크립트를 작성하고, 검색하고, 분석하며, 질문에 대한 답도 얻을 수 있습니다.

고급 생성형 미디어 기능을 제공하는 Imagen

Gemini 모델은 고급 추론 및 범용 사용 사례에 적합하지만 작업별 생성형 AI 모델은 엔터프라이즈가 특화된 기능을 제공하는 데 도움이 될 수 있습니다. Shutterstock 및 Rakuten과 같은 조직은 Imagen 2.0을 활용하여 엔터프라이즈 규모로 정확도 높은 고품질 이미지를 생성하고 있습니다.

현재 프리뷰 버전으로 제공되고 있는 text-to-live image 변환 기능을 사용하면 Imagen이 엔터프라이즈 워크로드에서 더 큰 힘을 발휘할 수 있습니다. 이 기능을 사용하면 마케팅팀과 크리에이티브팀이 텍스트 프롬프트를 통해 GIF와 같은 애니메이션 이미지를 생성할 수 있습니다. 초기 버전에서는 4초 길이의 애니메이션 이미지가 360x640픽셀 해상도에서 24FPS(초당 프레임 수)로 제공되지만 앞으로 기능이 더욱 강화될 예정입니다.

Imagen은 엔터프라이즈에서의 사용에 중점을 두고 설계되었기 때문에, 자연, 음식 이미지, 동물 등의 테마를 다루는 데에 적합하며, 전체 시퀀스에서 일관성을 유지하면서 다양한 카메라 각도와 모션을 생성할 수 있습니다. 콘텐츠 제작자와 사용자 간 신뢰를 형성하기 위한 노력의 일환으로, 애니메이션 이미지 생성용 Imagen에는 안전 필터와 디지털 워터마크가 포함됩니다.

Create live images from text prompts with Imagen 2.0 in Vertex AI

또한 인페인팅 및 아웃페인팅을 포함한 고급 사진 편집 기능을 사용할 수 있도록 Imagen 2.0의 이미지 생성 기능을 업데이트하고 있습니다. Vertex AI의 Imagen 2.0에서 정식 버전으로 출시된 이러한 기능을 사용하면 이미지에서 원치 않는 요소를 제거하고, 새로운 요소를 추가하며, 시야를 넓히기 위해 이미지 경계를 확장하는 작업이 쉬워집니다. 또한 Google DeepMind의 SynthID를 기반으로 하는 디지털 워터마킹 기능이 정식 버전으로 출시되어 고객은 보이지 않는 워터마크를 생성하고 Imagen 모델 제품군이 생성한 이미지와 애니메이션 이미지를 확인할 수 있습니다.

Image editing in Imagen 2.0 on Vertex AI

파운데이션 모델의 기반이 되는 Enterprise Truth

파운데이션 모델의 품질은 학습에 사용되는 데이터의 품질을 뛰어넘을 수 없습니다. 하지만 이러한 데이터는 조금만 시간이 지나도 구식화되며, 엔터프라이즈 사용 사례를 수행하기 위해 모델이 필요로 하는 정보를 포함하지 않을 수 있습니다. 오늘 Google Cloud는 이제 조직이 Google 검색을 활용하여 모델을 그라운딩할 수 있다는 소식을 발표합니다. 이를 통해 고객은 Google에서 제공하는 여러 최신 파운데이션 모델의 이점을 활용하는 동시에 고품질의 최신 정보에 액세스할 수 있습니다. Google 검색을 활용한다는 것은 수십 년간 정보의 품질을 평가하고 이해하며 쌓아온 경험을 토대로 구축된 신뢰할 수 있는 정보 소스를 바탕으로 결과를 얻을 수 있다는 의미입니다.

또한 Google Cloud에서는 검색 증강 생성(RAG)을 활용할 다양한 방법을 엔터프라이즈에 제공하고 있습니다. 검색 증강 생성을 활용하면 조직은 문서 및 데이터 스토어 검색을 위한 시맨틱 유사성과 같은 기법을 사용해 엔터프라이즈 데이터 소스로 모델 응답을 그라운딩할 수 있습니다.

Google Cloud에서는 이와 같은 검색 및 엔터프라이즈 데이터를 활용한 그라운딩이라는 개념을 'Enterprise Truth'이라고 부릅니다. 그리고 이것을 차세대 AI 에이전트, 즉 단순히 채팅만 하는 데서 그치지 않고 사용자를 대신해 적극적으로 정보를 검색하고 작업을 완수하는 에이전트를 빌드하기 위한 토대로 인식하고 있습니다.

생성형 AI 모델에서 대규모로 최대한의 성능 끌어내기

Google Cloud는 대규모 모델을 사용해 빌드할 때 발생하는 요구사항을 충족시키기 위해 Vertex AI의 MLOps 기능을 확장했습니다. 이를 활용하는 고객은 Model Registry, Feature Store, 모델 반복 및 배포를 관리하기 위한 파이프라인 등의 공통 기능을 사용해 모든 AI 프로젝트를 진행할 수 있습니다. 이러한 공통 기능을 통해 고객은 기존 MLOps 투자에서 지속적으로 이익을 얻는 동시에 생성형 AI 워크로드에서 발생하는 요구사항을 충족할 수 있습니다.

오늘 발표된 다음 기능은 조직이 생성형 AI 모델에서 대규모로 최대한의 성능을 끌어내는 한편 실험부터 프로덕션까지 보다 빠르게 반복할 수 있도록 만들어 줍니다.

Vertex AI Prompt Management는 프롬프트 실험, 프롬프트 마이그레이션, 프롬프트 및 파라미터 추적 등 고객이 겪고 있는 생성형 AI의 가장 큰 문제를 해결하는 것을 목표로 합니다. 현재 프리뷰 버전으로 출시된 Vertex AI Prompt Management는 버전 관리, 오래된 프롬프트를 복원할 수 있는 옵션, 프롬프트 성능을 개선하기 위한 AI 생성 제안 등 여러 팀에서 사용할 수 있는 프롬프트 라이브러리를 제공합니다. 고객은 프롬프트 반복을 나란히 비교하여 작은 변화가 출력에 미치는 영향을 평가할 수 있습니다. 또한 이 서비스는 메모 및 태그와 같이 더욱 효과적인 협업을 위한 기능도 제공합니다.
Vertex AI의 평가 도구는 고객이 특정 작업을 위한 모델을 비교하는 데 도움을 줍니다. 현재 사용자가 최상의 프롬프트 디자인을 반복할 때 모델 성능을 평가하는 데 도움을 주는 Rapid Evaluation을 프리뷰 버전으로 제공하고 있습니다. 사용자는 다양한 차원(예: 유사성, 요청 사항 준수, 유창성)의 측정항목과 특정 작업(예: 텍스트 생성 품질)을 위한 번들에 액세스할 수 있습니다. 보다 효과적인 평가를 위해 AutoSxS가 정식 버전으로 출시되었습니다. 이 기능을 사용하면 한 모델이 다른 모델보다 우수한 이유에 대한 설명과 사용자가 평가의 정확도를 이해하는 데 도움이 되는 확실성 점수 등을 통해 두 모델의 성능을 비교할 수 있습니다.

"AutoSxS를 통해 생성형 AI 모델을 평가하는 Generali Italia의 역량이 크게 도약했습니다. 평가 자동화는 LLM을 프로덕션 단계까지 이끄는 데 핵심적인 성공 요인이었습니다."라고 Generali Italia의 최고 기술 책임자 Stefano Frigerio는 말합니다.

Two model responses being compared based on an AutoSxS evaluation.

마지막으로, Google Cloud는 오늘 데이터 상주 보장을 브라질, 스위스, 스페인, 이스라엘, 이탈리아, 인도, 오스트레일리아, 타이완, 폴란드, 핀란드, 홍콩 등 11개 신규 국가/지역으로 확장합니다. 데이터 상주 보장은 Vertex AI의 Gemini, Imagen, Embeddings API를 위해 저장된 데이터에 적용됩니다. 이제 고객은 Gemini 1.0 Pro 및 Imagen을 사용할 때 머신러닝 처리를 미국 또는 유럽 연합으로 제한할 수 있습니다. 작년에 발표된 10개 국가/지역에 더해 11개 국가/지역이 추가된 덕분에 고객은 데이터가 저장되는 위치와 액세스 방법에 대해 더 많은 제어권을 확보하여 전 세계적으로 규제 및 보안 요구사항을 더 쉽게 충족할 수 있습니다.

생성형 AI 여정의 다음 단계

생성형 AI의 잠재력을 완전히 활용하려면 조직은 모델 및 인프라의 역량과 비용 사이의 균형을 유지하고, 모델이 적절한 데이터를 바탕으로 추론하도록 준비를 갖추고, 모델을 대규모로 배포, 관리, 유지하기 위해 MLOps를 조정해야 합니다. 오늘 발표를 통해 Vertex AI 고객은 이러한 요구사항을 그 어느 때보다 빠르고 쉽게 충족할 수 있어 복잡한 도입 과정과 씨름할 필요 없이 AI 기반 혁신에 집중할 수 있습니다. Google Cloud는 전 세계의 조직과 함께 생성형 AI 여정을 계속하기를 기대합니다. Vertex AI에 대해 자세히 알아보고 무료 체험을 시작하려면 여기를 클릭하세요.

Vertex AI Agent Builder로 생성형 AI 환경 빌드하기

Wed, 24 Apr 2024 01:00:00 +0000

*본 아티클의 원문은 2024년 4월 10일 Google Cloud 블로그(영문)에 게재되었습니다.

생성형 AI는 개발자와 조직이 활용할 수 있는 엄청난 기회입니다. 비즈니스 프로세스를 최적화하고, 고객과의 상호작용 방식을 개선하고, 새로운 수익원을 발견할 수 있게 합니다. 생성형 AI가 지닌 이 막대한 잠재력을 제대로 활용하려면 개발자와 IT 리더는 AI 모델, 앱, 에이전트의 빠른 실험 및 반복과 비용, 거버넌스, 성능 사이에서 규모에 따라 균형을 맞추는 등 다양한 문제를 해결해야 합니다.

Google Cloud는 고객이 이러한 문제를 잘 관리하고 생성형 AI 에이전트 개발에 박차를 가할 수 있도록 Vertex AI Agent Builder를 출시했습니다. Vertex AI Agent Builder에는 Vertex AI Search and Conversation 제품과 함께 향상된 개발자 도구 다수가 통합되어 있습니다.

이미 이러한 제품을 사용 중인 Google Cloud 고객들로부터 흥미로운 사용 사례가 확인되고 있습니다.

고객 경험 측면에서는 ADT가 6백만 명이 넘는 고객을 위해 주택 보안 시스템을 선택하고 설정하는 데 도움이 되는 에이전트를 빌드하고 있으며, Intercontinental Hotels Group은 고객이 휴가를 간편하게 계획할 수 있도록 지원하는 생성형 AI 기반 여행 계획 기능을 출시할 예정입니다. 그리고 NewsCorp는 30,000곳의 글로벌 뉴스 소스와 매일 업데이트되는 25억 건의 뉴스 기사에서 데이터를 검색할 수 있는 환경을 만들기 위해 Vertex AI를 활용하고 있습니다.

한편 조직 내부의 효율성을 높이기 위해 에이전트를 빌드하고 있는 Google Cloud 고객도 있습니다. 예를 들어, Mayo Clinic의 연구원들은 50페타바이트가 넘는 규모의 임상 데이터를 검색하는 데 Vertex AI Agent Builder를 활용하고 있습니다. 또한 Vodafone은 Vertex AI를 사용하여 빠르고 안전하게 문서를 쿼리하고 10,000건이 넘는 계약 문건에서 특정 상업적 이용약관을 파악할 수 있는 도구를 개발했습니다. Google Cloud팀은 이러한 모멘텀이 형성된 것을 기쁘게 생각하며 앞으로 몇 달간 고객들이 계속해서 성취할 혁신을 기대하고 있습니다.

그럼 Vertex AI Agent Builder의 기능을 자세히 살펴보겠습니다.

전문가에게는 빠르고 강력한 도구, 초보자에게는 간단하고 쉬운 도구

Vertex AI Agent Builder는 자연어를 사용하여 AI 에이전트를 빌드할 수 있는 노 코드(no-code) 콘솔부터 Vertex AI 기반 LangChain 같은 오픈소스 프레임워크에 이르기까지, 개발자의 니즈와 전문성 수준에 맞는 다양한 도구를 제공하여 엔터프라이즈 지원 생성형 AI 환경을 쉽게 빌드하고 배포할 수 있게 해 줍니다.

또한 Vertex AI Agent Builder는 엔터프라이즈 데이터를 바탕으로 생성형 AI 출력을 그라운딩하는 프로세스를 간소화해 줍니다. Vertex AI Search를 즉시 사용 가능한 그라운딩 시스템으로 사용할 수 있을 뿐 아니라 문서 레이아웃 처리, 순위 지정, 검색, 그라운딩 출력에 대한 검사 수행을 위한 RAG(검색 증강 생성) API도 활용할 수 있습니다. 뿐만 아니라 개발자가 벡터 검색을 사용하여 임베딩 기반 에이전트와 애플리케이션을 빌드할 수 있어 정확도와 모델 응답의 활용성(사용 가능성)이 높아집니다. 보안 및 엔터프라이즈 관리 기능이 기본 제공되는 Vertex AI Agent Builder는 프로덕션에 바로 사용할 수 있는 생성형 AI 기반 환경을 빠르게 만들고 배포할 수 있는 원스톱 솔루션입니다.

사실에 기반하여 그라운딩된 엔터프라이즈급 AI 에이전트를 빠르게 빌드

생성형 AI 모델이 놀라운 수준의 콘텐츠 제작 및 분석 기능을 제공하는 것은 사실이지만, AI 앱 역시 이러한 기능을 안전하고 효율적인 인터페이스로 구현할 수 있어야 합니다. 더 나아가서, AI 에이전트가 고도의 맞춤형 응답을 제공하고 사용자 대신 작업을 실행할 수 있으려면 모델의 역량과 외부 시스템이 잘 결합되어야 합니다. Vertex AI Agent Builder는 이와 같은 프로세스를 간소화하는 데 도움이 됩니다.

자연어를 사용하여 프로덕션 등급의 AI 에이전트를 손쉽게 빌드
Vertex AI Agent Builder는 에이전트를 빌드할 수 있는 노 코드(no-code) 콘솔을 제공하므로 개발자가 Google의 최신 Gemini 모델을 사용해 생성형 AI 에이전트를 빌드하고 배포할 수 있습니다. Vertex AI의 '에이전트' 섹션으로 이동하여 에이전트 빌드를 시작하면 됩니다. 여기에서 단 몇 분 만에 새로운 에이전트를 만들 수 있습니다. 개발자는 에이전트로 달성하고자 하는 업무를 정의하고, 에이전트가 해당 업무를 달성하기 위해 따라야 하는 단계별 안내를 제공하고, 에이전트가 따를 몇 가지 예시를 대화식으로 공유하기만 하면 됩니다.

복잡한 업무인 경우 개발자는 하나의 에이전트를 기본 에이전트로 설정하고 여러 개의 하위 에이전트를 두는 식으로 다수의 에이전트를 손쉽게 묶을 수 있습니다. 특정 하위 에이전트가 다른 하위 에이전트나 기본 에이전트로 정보를 전달하게 하여 원활하고 정교한 워크플로를 만들 수 있습니다. 이러한 에이전트는 함수를 호출하거나, 응답의 정확성을 개선하기 위해 엔터프라이즈 데이터에 연결하거나, 사용자의 작업을 수행하도록 애플리케이션에 연결하는 작업을 손쉽게 수행할 수 있습니다.

Vertex AI 에이전트 콘솔은 에이전트 빌드, 조정, 유지보수 작업을 더욱 수월하게 만들어 주는 고급 도구도 함께 제공합니다. 여기에는 프로토타입에서 프로덕션 등급의 고품질 에이전트를 만들고, 에이전트의 성능을 실시간으로 모니터링하고, 자연어로 에이전트를 학습시켜 특정 쿼리에 대한 응답을 개선하는 등의 기능이 포함됩니다.

Vertex AI의 노 코드(no-code) 에이전트 콘솔에서 자연어를 사용해 프로덕션 등급의 AI 에이전트를 손쉽게 빌드

그라운딩된 출력과 뛰어난 에이전트
생성형 AI 모델은 이전에 학습했던 정보에 대해서만 응답을 해줍니다. 대부분의 엔터프라이즈 사용 사례에서 관련 있고 사실에 기반한 정보로 출력을 그라운딩하려면 모델이 학습한 지식을 다른 데이터 소스로 보완해야 합니다. 검색 증강 생성(RAG)이라고 잘 알려진 이 기법은 구현하기 까다로울 수 있으며, 시간 경과에 따라 그라운딩 메커니즘의 품질을 평가하고 유지하는 데 사용할 수 있는 전문 도구도 많지 않습니다.

Vertex AI Agent Builder는 엔터프라이즈 데이터를 바탕으로 모델 출력을 그라운딩할 수 있는 포괄적인 기능을 제공합니다. 이러한 기능에는 Vertex AI Search의 즉시 사용 가능한 RAG 시스템 등이 포함되어 있습니다. 클릭 몇 번으로 설정 및 실행이 가능할 뿐 아니라, 플랫폼의 사전 빌드된 구성 요소를 활용하면 복잡한 구현 작업을 간단하게 생성, 유지, 관리할 수 있습니다. 문서 레이아웃, 순위 지정, 검색 등의 작업을 위한 다양한 RAG API가 마련되어 있어 개발자가 그라운딩 출력을 빠르고 쉽게 검사할 수 있습니다. 더 복잡한 구현의 경우에도 Vertex AI Agent Builder가 제공하는 강력한 벡터 검색을 활용하여 맞춤형 임베딩 기반 RAG 시스템을 빌드할 수 있습니다. 벡터 검색은 수십억 개의 벡터로 확장되며 수 밀리초 내에 최근접 이웃 정보를 찾을 수 있습니다. 또한 벡터 검색에 키워드 기반 검색 기법을 결합하면 사용자에게 가장 관련성 있고 정확한 응답을 제공할 수 있습니다.

고객은 Google 검색을 바탕으로 모델 출력을 그라운딩할 수도 있습니다. 이렇게 하면 Google의 최신 기반 모델을 활용하는 동시에 응답의 완전성과 정확성을 대폭 개선할 수 있는 고품질의 최신 정보에 액세스할 수 있게 됩니다. Google은 고객의 자체 데이터와 Google 검색 결과 모두를 바탕으로 즉시 그라운딩할 수 있는 기능을 제공하는 유일한 클라우드 제공업체입니다.

또한 Vertex AI Agent Builder를 사용하면 그라운딩 출력을 손쉽게 보강할 수 있으며 확장 프로그램과 함수 호출, 데이터 커넥터를 통해 사용자를 대신하여 조치를 취할 수도 있습니다.

Vertex AI 확장 프로그램은 재사용이 가능한 사전 빌드 모듈로 기반 모델을 특정 API 또는 도구에 연결해 줍니다. 예를 들어, Google Cloud의 새로운 코드 인터프리터 확장 프로그램은 모델이 데이터 분석, 데이터 시각화, 수학적 연산 등 Python 코드 실행이 수반되는 작업을 실행할 수 있도록 해 줍니다.
Vertex AI 함수 호출은 사용자가 일련의 함수 또는 API를 설명할 수 있게 해 주며, Gemini 모델이 특정 쿼리에 대해 적절한 API 매개변수와 함께 호출할 알맞은 API 또는 함수를 지능적으로 선택하도록 해 줍니다.
Vertex AI 데이터 커넥터는 생성형 애플리케이션을 널리 사용되는 엔터프라이즈 시스템에 연결하여 ServiceNow, Hadoop, Salesforce 같은 대기업 및 서드 파티 애플리케이션에서 데이터를 수집할 수 있게 해 줍니다.

엔터프라이즈급 보안과 안정성
작동하는 프로토타입에서 프로덕션에 바로 사용할 수 있는 앱 또는 에이전트로 나아가는 과정에서는 여러 기술적 문제가 생길 수 있습니다. Vertex AI Agent Builder는 HIPAA, ISO 27000 시리즈, SOC-1/2/3, VPC-SC, CMEK와 같은 다양한 규정 준수 및 보안 표준을 지원하여 이러한 우려를 덜어줍니다. 또한 Vertex AI Studio가 통합되어 있어 개발자가 모델 조정 기능을 활용하고 즉시 사용 가능한 Vertex AI의 다른 제품을 연결해 워크플로를 하나로 통일할 수도 있습니다. 모든 기능에는 Google Cloud 고객이 기대하는 표준 액세스 제어, 데이터 거버넌스 도구, 데이터 사용 및 관리 결정권 옵션이 함께 제공되므로 빌더는 혁신에 집중하면서도 데이터를 안전하게 유지하고 서비스를 안정적으로 운영할 수 있습니다.

지금 바로 AI 에이전트의 시대에 합류하세요

Vertex AI Agent Builder의 노 코드(no-code) 에이전트 빌드 콘솔을 사용해 자연어 프롬프트로 AI 에이전트를 빌드하거나 Vertex AI 기반 LangChain 같은 오픈소스 솔루션을 활용해 보세요.

Vertex AI Agent Builder에 대해 자세히 알아보려면 Google Cloud 웹페이지를 참고하세요.

개발 및 IT운영

AI 에이전트 빌드의 기초를 다질 수 있는 기회

강사 소개

학습 방식

5개의 모듈식 세션으로 구성된 Agent 101 라이브 (언제든지 참여 가능)

라이브 스트림에 참여하세요

Cloud Run 샌드박스에서 AI 생성 코드를 안전하게 실행

Cloud Run 샌드박스란 무엇인가요?

핵심 사용 사례

작동 방식: 개발자 경험

1단계: 샌드박스 런처 사용 설정

2단계: 코드에서 샌드박스를 기본적으로 생성

보안 내재화 설계: 기본적으로 제로 트러스트

지금 시작하기

클라우드 안정성 사고 처리를 위한 권장사항

1. 준비

2. 확인

3. 조사

4. 보고서

프리미엄/고급 지원 에스컬레이션

5. 해결

에스컬레이션 해제 및 종료

6. 검토

일반적인 원인, 소통 및 예방 전략

자세히 알아보기

모든 LLM 워크로드가 동일한 것은 아닙니다. 분류와 생성에 대한 TPU 성능 벤치마킹

주요 결과 및 제안

세대별 실적 월

분류 패리티

메시지 월을 중심으로 설계

아키텍처 설정

워크로드: 분류 대 생성

결과 및 관찰

세대별 확장 차이

분류 성능 패리티

지연 시간 임곗값 분석

결론

LLM 워크로드를 확장할 준비가 되셨나요?

Kotlin용 Google 생성형 AI SDK 1.0 발표: Gemini에 대한 관용적인 멀티플랫폼 액세스

1. 시작하기: 종속 항목 추가

Kotlin 멀티플랫폼(KMP)

표준 JVM 프로젝트

2. 단항 및 스트리밍 텍스트 생성 및 채팅

Gemini Flash를 사용한 단일 프롬프트 요청

코루틴을 사용한 지연 시간이 짧은 스트리밍 Flow

3. Google 검색을 사용해 그라운딩된 멀티모달 분석

4. 시각적 생성 및 대화 기반 수정: Gemini 3 이미지 제품군

이미지 생성 및 저장

대화형 이미지 간 편집

5. Gemini Live와의 실시간 양방향 상호작용

6. 정형 도구 및 함수 호출

다음 단계

Spanner 마이그레이션: Antigravity CLI를 사용한 이중 쓰기 자동화로 중단 최소화

과제: 이중 쓰기 마이그레이션의 구조

솔루션: 표준화된 변형 컨버터 패턴

헤드리스 모드에서 Antigravity CLI를 사용하는 이유

결과 및 클라우드 엔지니어를 위한 핵심 내용 정리

다음 데이터베이스 마이그레이션을 위한 3가지 팁

시작하기

하나의 툴킷으로 Antigravity SDK를 사용하여 에이전트 허브 또는 커스텀 하네스 지원

Antigravity의 구성

두 가지 핵심 구성요소로 이루어져 있습니다.

사용 사례: 멀티 에이전트 모니터링 및 대화형 제어

1. 스킬을 통한 모듈식 기능

2. 샌드박싱된 기본 제공 도구 및 작업공간 범위 지정

3. 세션 격리 및 궤적 지속성(save_dir 및 conversation_id)

4. 수명 주기 후크를 사용한 실시간 원격 분석 및 가로채기

시작하기

AI 코딩 에이전트를 위한 Google Cloud Developer 플러그인 소개

도구 결합 문제 해결

개방형 표준을 기반으로 빌드

플러그인 작동 방식: 프로젝트 온보딩 및 ID 인증

Google Cloud 플러그인 설치

Antigravity CLI

Claude Code

Codex CLI

다음 단계

GPU 실험: GKE 관리형 DRANET 및 Inference Gateway AI 배포

DRANET이란 무엇인가요?

GPU RDMA VPC 작동 방식

코루틴을 사용한 지연 시간이 짧은 스트리밍 `Flow`

3. 세션 격리 및 궤적 지속성(`save_dir` 및 `conversation_id`)