Model-model baru ini menyediakan alat tambahan untuk pengembang dan peneliti, yang membantu dalam upaya berkelanjutan untuk menciptakan masa depan AI yang aman dan transparan.
Dalam upaya terbaru untuk meningkatkan keamanan dan transparansi kecerdasan buatan, Google telah memperkenalkan tiga model AI generatif baru. Model-model ini, yang termasuk dalam seri Gemma 2 Google, dirancang untuk menjadi lebih aman, efisien, dan transparan dibandingkan banyak model yang sudah ada.
Menurut postingan di blog perusahaan, model-model baru ini Gemma 2 2B, ShieldGemma, dan Gemma Scope dibangun di atas fondasi yang dikembangkan oleh seri Gemma 2 asli, yang diluncurkan pada bulan Mei.
Baca juga : Aktor dan Artis Video Game Mogok Kerja: “Tuntut Perlindungan AI dari Penyalahgunaan!
Era baru AI dengan Gemma 2
Tidak seperti model Gemini milik Google, seri Gemma bersifat sumber terbuka. Pendekatan ini mirip dengan strategi Meta dengan model Llama-nya, yang bertujuan menyediakan alat AI yang mudah diakses dan kuat bagi khalayak yang lebih luas.
Gemma 2 2B adalah model ringan yang dirancang untuk membuat dan menganalisis teks. Model ini cukup serbaguna untuk dijalankan pada berbagai perangkat keras, termasuk laptop dan perangkat edge. Google menyatakan bahwa kemampuan Gemma 2 2B untuk berfungsi di berbagai lingkungan menjadikannya pilihan menarik bagi pengembang dan peneliti yang membutuhkan solusi AI yang fleksibel.
Di sisi lain, model ShieldGemma berfokus pada peningkatan keamanan dengan berfungsi sebagai kumpulan pengklasifikasi keamanan. ShieldGemma dirancang untuk mendeteksi dan menyaring konten yang berbahaya, seperti ujaran kebencian, pelecehan, dan materi seksual eksplisit. Model ini bekerja di atas Gemma 2, menyediakan lapisan moderasi konten tambahan.
Sumber: Google untuk Pengembang
Menurut Google, ShieldGemma dapat menyaring perintah yang diberikan kepada model generatif dan juga konten yang dihasilkannya, menjadikannya alat yang sangat berharga untuk menjaga integritas dan keamanan konten yang dihasilkan oleh AI.
Sementara itu, model Gemma Scope dirancang untuk membantu pengembang mendapatkan pemahaman yang lebih mendalam tentang cara kerja internal model Gemma 2. Google menjelaskan bahwa Gemma Scope terdiri dari jaringan saraf khusus yang mampu menguraikan informasi yang kompleks dan padat yang diproses oleh Gemma 2, memberikan wawasan yang lebih mendetail bagi pengembang.
Baca juga : Aptos Kehilangan Keuntungan Tahunan Sementara Ikon Meme AI Raboo Melonjak 60% Melampaui Tron
Dengan menyajikan informasi dalam bentuk yang lebih mudah dipahami, para peneliti dapat lebih memahami bagaimana Gemma 2 mengenali pola, memproses data, dan membuat prediksi. Tingkat transparansi ini sangat penting untuk meningkatkan keandalan dan kepercayaan terhadap AI.
Mengatasi masalah keselamatan dan dukungan pemerintah
Peluncuran model baru oleh Google ini terjadi setelah adanya peringatan dari insinyur Microsoft, Shane Jones, yang menyampaikan kekhawatiran tentang alat AI Google yang dapat menghasilkan gambar kekerasan dan seksual serta mengabaikan hak cipta.
Peluncuran ini juga bertepatan dengan laporan awal dari Departemen Perdagangan AS yang mendukung penggunaan model AI terbuka. Laporan tersebut menyoroti manfaat dari membuat AI generatif lebih mudah diakses oleh perusahaan kecil, peneliti, lembaga nirlaba, dan pengembang perorangan. Namun, laporan tersebut juga menekankan pentingnya memantau model-model ini untuk mengetahui potensi risiko dan menggarisbawahi perlunya langkah-langkah keselamatan seperti yang diterapkan dalam ShieldGemma.
Sumber : cointelegraph
