CHA:ChatGPT类产品安全隐患解决？英伟达发布开源工具包

随着ChatGPT等AI聊天机器人自去年底以来迅速走红，对于它们安全问题的相关警告也层出不穷。尽管背后的开发者也在竭尽全力地想办法解决这些问题，比如实施资讯过滤和人类纠正那些被标记的问题，但效果都不尽人意。

有鉴于此，英伟达公司（Nvidia Corp.）周二正式发布了一个名为NeMo Guardrails的开源工具包，可以禁止AI聊天机器人提供那些受限的信息，使人工智能驱动的应用程序更加准确、适当、符合主题和安全。

?ChatGPT概念继续走强:2月6日消息，ChatGPT概念股继续走强，科创板海天瑞声再度触及涨停，近6个交易日股价翻倍。汉王科技、天娱数科、高鸿股份等涨停，福石控股、拓尔思、云从科技等继续走高。[2023/2/6 11:49:40]

每个人都意识到了大型生成语言模型的力量，英伟达应用研究副总裁Jonathan Cohen说，以一种安全可靠的方式部署它们非常重要。

分布式搜索引擎QitChain主网进入压力测试阶段:据官方消息，9月13日，第三方安全检测公司正进入QitChain主网测试并进行安全检测。

据悉，本次进入主网上线阶段测试的存储提供商，是由测试网的全球20多个测试节点推荐，已通过基金会审核并达到测试要求的。预计本次测试阶段QitChain全网算力将会加速增长。[2021/9/13 23:21:42]

英伟达表示，NeMo Guardrails将作为终端用户和人工智能程序之间的一层防护墙。将其与传统软件混合，该系统将能够识别用户提出的事实问题，并检查机器人是否能够和应该回答这个问题。系统还将确定生成的答案是否基于事实，并控制聊天机器人给出回答的方式。

Perceptron Capital、PrimeDAO和Defi Chad在dHEDGE推出资产池:资产管理协议dHEDGE发推称，Perceptron Capital、PrimeDAO和Defi Chad分别在dHEDGE推出资产池， dHEDGE DAO均投资20000 sUSD。这些资产池都支持使用Fox Swap。[2021/3/27 19:23:10]

例如，假设一名员工询问人力资源聊天机器人，公司是否为想要领养孩子的员工提供支持。这将通过NeMo Guardrails并返回包含公司相关利益的文本。询问同一个机器人有多少员工利用了这一福利，可能会引发拒绝指令，因为这些数据是保密的。Cohen还表示，英伟达已经在Guardrails的底层系统上工作了"多年"，但就在大约一年前意识到它很适合GPT-4和ChatGPT这样的模型。"从那时起，我们一直在朝着NeMo Guardrails的这个版本发展，"他说，"人工智能模型安全工具对于那些为企业用途部署的模型至关重要。"

财联社

媒体专栏

阅读更多

金色荐读

金色财经 善欧巴

Chainlink预言机

白话区块链

金色早8点

Odaily星球日报

欧科云链

深潮TechFlow

MarsBit

Arcane Labs

标签：CHAQUOGUARDRAIluxalpachainQUO币GUARD币RAIL价格

火必交易所热门资讯