大数跨境

谷歌发布以安全为重点的新开源人工智能模型

谷歌发布以安全为重点的新开源人工智能模型 土耳其小莫
2024-08-01
0
导读:Google 为 Gemma 2 系列新增了三款成员:Gemma 2 2B、ShieldGemma 和 Gemma Scope。

继6月推出27B与9B版本后,Google为Gemma 2开源模型家族新增三位成员:Gemma 2 2B、ShieldGemma及Gemma Scope。其中,Gemma 2 2B在保持性能与效率平衡的同时内置安全改进;ShieldGemma是一套基于Gemma 2构建的安全内容分类器,用于过滤模型输入输出以保障用户安全;Gemma Scope则为理解模型内部运作提供了全新的可解释性工具。

Gemma 2 2B:高效部署与广泛兼容

Gemma 2 2B可在边缘设备、笔记本电脑及云端(Vertex AI/GKE)等多种硬件平台上高效运行。该模型已使用NVIDIA TensorRT-LLM库优化并支持NVIDIA NIM,适配数据中心、工作站、PC及Jetson模块等场景。此外,它能与Keras、JAX、Hugging Face、NVIDIA NeMo、Ollama、Gemma.cpp及即将推出的MediaPipe无缝集成,显著简化开发流程。

来源:Google

ShieldGemma:四大类有害内容过滤

ShieldGemma专注于仇恨言论、骚扰、色情内容及危险内容四大领域的识别与过滤。作为“负责任的人工智能工具包”的补充,这套开源分类器不仅完善了Google Cloud现成服务,还支持通过少量数据点按特定政策进行微调,进一步提升了AI应用的安全性。

Gemma Scope:模型决策透明化工具

Gemma Scope利用稀疏自动编码器(SAEs)作为“显微镜”,将Gemma 2处理的复杂信息转化为易于分析的格式,帮助研究者和开发者洞察模型内部运作机制。通过审查这些扩展视图,用户可以深入理解模型如何识别模式、处理信息并最终做出预测,从而提升模型的可解释性与透明度。

【声明】内容源于网络
0
0
土耳其小莫
小莫带你了解土耳其电商,探索AI应用
内容 26498
粉丝 0
土耳其小莫 小莫带你了解土耳其电商,探索AI应用
总阅读242
粉丝0
内容26.5k