더 작고, 더 안전하고, 더 투명하게: Gemma와 함께 책임 있는 AI를 발전시키다 > 뉴스

6월에 우리는  270억(27B) 및 90억(9B) 매개변수 크기의 새로운 최고 수준의 개방형 모델인  Gemma 2를 출시했습니다 . 27B 모델은 출시 이후 LMSYS Chatbot Arena 리더보드 에서 가장 높은 순위를 차지한 개방형 모델 중 하나가 되었으며 , 실제 대화에서 두 배 이상 큰 인기 모델을 능가하기도 했습니다.

하지만 Gemma는 성능 그 이상을 의미합니다. 책임 있는 AI를 기반으로 구축되었으며, 안전성과 접근성을 우선시합니다. 이러한 공약을 지원하기 위해 Gemma 2 제품군에 새로운 제품 3가지를 추가하게 되어 기쁩니다.

1. Gemma 2 2B  – 인기 있는 20억(2B) 매개변수 모델의 완전히 새로운 버전으로, 내장된 안전 향상 기능과 성능과 효율성의 강력한 균형을 특징으로 합니다.

2.  ShieldGemma  – Gemma 2를 기반으로 구축된 안전 콘텐츠 분류기 모델 모음으로, AI 모델의 입력 및 출력을 필터링하고 사용자를 안전하게 보호합니다.

3.  Gemma Scope  – 모델의 내부 작동에 대한 탁월한 통찰력을 제공하는 새로운 모델 해석 도구입니다.

이러한 추가 기능을 통해 연구자와 개발자는 이제 더 안전한 고객 경험을 만들고, 모델에 대한 전례 없는 통찰력을 얻고, 강력한 AI를 책임감 있게 장치에 바로 배포하여 혁신을 위한 새로운 가능성을 열 수 있습니다.

Gemma 2 2B: 차세대 성능을 지금 기기에서 경험하세요

Gemma 2 제품군에 추가된 매우 기대되는 모델인 Gemma 2 2B 모델을 소개하게 되어 기쁩니다  . 이 가벼운 모델은 증류를 통해 더 큰 모델에서 학습하여 엄청난 결과를 생성합니다. 사실, Gemma 2 2B는 Chatbot Arena에서 모든 GPT-3.5 모델을 능가하여 뛰어난 대화형 AI 능력을 보여줍니다.

Gemma 2 2B는 다음을 제공합니다.

• 뛰어난 성능:  크기에 비해 동급 최고의 성능을 제공하며, 동일 카테고리의 다른 개방형 모델보다 우수한 성능을 발휘합니다.

• 유연하고 비용 효율적인 배포:  에지 디바이스와 노트북부터 Vertex AI와 Google Kubernetes Engine(GKE)을 통한 강력한 클라우드 배포에 이르기까지 광범위한 하드웨어에서 Gemma 2 2B를 효율적으로 실행하세요. 속도를 더욱 높이기 위해  NVIDIA TensorRT-LLM 라이브러리로 최적화되었으며  NVIDIA NIM  으로 제공됩니다 . 이 최적화는  NVIDIA RTX ,  NVIDIA GeForce RTX  GPU 또는 에지 AI용  NVIDIA Jetson 모듈을 사용하여 데이터 센터, 클라우드, 로컬 워크스테이션, PC 및 에지 디바이스를 포함한 다양한 배포를 대상으로 합니다  . 또한 Gemma 2 2B는 Keras, JAX, Hugging Face, NVIDIA NeMo, Ollama, Gemma.cpp 및 곧 MediaPipe와 원활하게 통합되어 간소화된 개발을 제공합니다.

• 개방적이고 접근 가능: 연구 및 상업적 응용 프로그램을 위한  상업적으로 친화적인  Gemma 약관 에 따라 제공됩니다. Google Colab의 무료 계층 T4 GPU에서 실행할 수 있을  만큼 작아서  그 어느 때보다 실험과 개발이 쉬워졌습니다.

오늘부터  Kaggle ,  Hugging Face ,  Vertex AI Model Garden 에서 Gemma 2의 모델 가중치를 다운로드할 수 있습니다. Google AI Studio 에서도 기능을 시도할 수 있습니다  .

ShieldGemma: 최첨단 안전 분류기로 사용자 보호

참여적이고 안전하며 포괄적인 AI 출력을 보장하기 위해 책임감 있게 개방형 모델을 배포하려면 개발자와 연구자의 상당한 노력이 필요합니다. 이 과정에서 개발자를 돕기 위해, AI 모델 입력 및 출력에서 ​​유해한 콘텐츠를 탐지하고 완화하도록 설계된 최첨단 안전 분류기 시리즈인 ShieldGemma를 소개합니다. ShieldGemma는 특히 4가지 주요 해악 영역을 타깃으로 합니다.

• 연설을 증오

• 괴롭힘

• 성적으로 노골적인 콘텐츠

• 위험한 콘텐츠

이러한 개방형 분류기는 제한된 수의 데이터 포인트를 사용하여 특정 정책에 맞는 분류기를 구축하는 방법론이 포함된 Responsible AI Toolkit 의 기존 안전 분류기 제품군  과 API를 통해 제공되는 기존 Google Cloud 기성형 분류기를 보완합니다.

ShieldGemma가 더 안전하고 더 나은 AI 애플리케이션을 만드는 데 어떻게 도움을 줄 수 있는지 알아보세요.

• SOTA 성능 : Gemma 2를 기반으로 구축된 ShieldGemma는 업계를 선도하는 안전 분류기입니다.

• 유연한 크기 : ShieldGemma는 다양한 요구 사항을 충족하기 위해 다양한 모델 크기를 제공합니다. 2B 모델은 온라인 분류 작업에 이상적이며, 9B 및 27B 버전은 지연 시간이 덜 중요한 오프라인 애플리케이션에 더 높은 성능을 제공합니다. 모든 크기는 하드웨어 전반에 걸쳐 효율적인 성능을 위해 NVIDIA 속도 최적화를 활용합니다.

• 개방적이고 협력적 : ShieldGemma의 개방적인 특성은 AI 커뮤니티 내에서 투명성과 협력을 장려하여 ML 산업 안전 표준의 미래에 기여합니다.

"AI가 계속 성숙해짐에 따라, 전체 산업은 고성능 안전 평가자 개발에 투자해야 할 것입니다. Google이 이러한 투자를 하는 것을 보고 기쁘고, AI Safety Working Group에 계속 참여하기를 기대합니다." ~ Rebecca Weiss, ML Commons의 전무 이사

ShieldGemma 에 대해 자세히 알아보고  , 기술 보고서 에서 전체 결과를 확인하고  , 포괄적인 Responsible Generative AI Toolkit 으로 보다 안전한 AI 애플리케이션을 구축해보세요  .

Gemma Scope: 오픈 스파스 오토인코더로 AI 의사결정을 조명하다

Gemma Scope는 연구자와 개발자에게 Gemma 2 모델의 의사 결정 프로세스에 대한 전례 없는 투명성을 제공합니다. 강력한 현미경처럼 작동하는 Gemma Scope는  희소 자동 인코더  (SAE)를 사용하여 모델 내의 특정 지점을 확대하고 내부 작동을 더 해석하기 쉽게 만듭니다.

이러한 SAE는 Gemma 2에서 처리되는 복잡하고 밀도 있는 정보를 풀어내고 분석하고 이해하기 쉬운 형태로 확장하는 데 도움이 되는 특수 신경망입니다. 이러한 확장된 뷰를 연구함으로써 연구자는 Gemma 2가 패턴을 식별하고 정보를 처리하고 궁극적으로 예측을 내리는 방법에 대한 귀중한 통찰력을 얻을 수 있습니다. Gemma Scope를 통해 AI 연구 커뮤니티가 더 이해하기 쉽고 책임감 있고 신뢰할 수 있는 AI 시스템을 구축하는 방법을 발견하도록 돕는 것을 목표로 합니다.

Gemma Scope가 획기적일 수 있는 이유는 다음과 같습니다.

• 공개 SAE:   Gemma 2 2B 및 9B의 모든 계층을 포괄하는 400개 이상의 무료로 이용 가능한 SAE입니다 .

• 대화형 데모: Neuronpedia  에서 코드를 작성하지 않고도 SAE 기능을 살펴보고 모델 동작을 분석해 보세요  .

• 사용하기 쉬운 저장소:   SAE 및 Gemma 2와의 인터페이싱을 위한 코드와 예제 .
  

Google DeepMind 블로그 ,  기술 보고서 ​​및  개발자 문서 에서 Gemma Scope에 대해 자세히 알아보세요  .

책임 있는 AI를 기반으로 구축된 미래

이러한 릴리스는 AI 커뮤니티에 AI가 모든 사람에게 이로운 미래를 구축하는 데 필요한 도구와 리소스를 제공하려는 우리의 지속적인 노력을 나타냅니다. 우리는 개방형 액세스, 투명성 및 협업이 안전하고 유익한 AI를 개발하는 데 필수적이라고 믿습니다.

오늘 시작하세요:

• Gemma 2 2B 의 강력함과 효율성을 직접 경험해 보려면   다운로드하거나  NVIDIA NIM  또는  Google AI Studio 로 사용해 보세요 .

• ShieldGemma를 탐색하여   더욱 안전한 AI 애플리케이션을 구축해 보세요.

• Neuronpedia 에서 Gemma Scope를 사용해보고   Gemma 2의 내부 작동 방식을 알아보세요.

더욱 책임감 있고 유익한 AI 미래를 향한 흥미진진한 여정에 동참하세요!