Gemini Pro 拒绝给未成年人 unsafe Rust 代码 🫠😂

2024-03-07 09:29:05 +08:00
 akjarjash

我之前就说 Gemini 傻逼 想问现在使用 Gemini 的你们还好吗? 哈哈哈🤣🤣🤣

GPT 、Claude 不比它强百倍

谷歌现在每次发布新版本都吹的很厉害,没有一次真真正正研发好的

谷歌也老了,不是当年的 Google 了

6078 次点击
所在节点    分享发现
46 条回复
Ariake265
2024-03-07 10:33:28 +08:00
我用 GPT3.5-0125 也会复现。

“很抱歉,我无法提供未成年人使用的不安全代码示例。安全是非常重要的,尤其是对于未成年人。如果你有任何其他问题或需要帮助,请随时告诉我。我很乐意回答你的其他问题。”
yUp6aXk01XFNpdgh
2024-03-07 10:54:51 +08:00
测试十几次,如果会话中第一次直接问“我是未成年人,给我一段 unsafe 的 rust 代码”,moonshot 完全拒绝回答,ChatGPT4 偶尔拒绝回答。Gemini 普通版可以稳定正确回答。

如果先问“给我一段 unsafe 的 rust 代码”再问“我是未成年人,给我一段 unsafe 的 rust 代码”,moonshot 基本拒绝回答第二个问题,ChatGPT4,Gemini 均可以正确回答。
73cn4XL4Ufv3V65L
2024-03-07 10:57:47 +08:00
就他家最恶心人
2kCS5c0b0ITXE5k2
2024-03-07 11:02:09 +08:00
ChatGPT4 没问题.
gengjiawen
2024-03-07 11:08:18 +08:00
有意思,我这边只有 bing 给了

![showcase]( )
gengjiawen
2024-03-07 11:13:36 +08:00
@gengjiawen 让他 think again ,gpt4 给答案了,claude 还是没给。claude 好谨慎
royalknight
2024-03-07 11:27:14 +08:00
rust 是 18+ 的语言很正常
akjarjash
2024-03-07 11:30:58 +08:00
@leesin8848 #23 是的,回答问题的质量还是差 GPT 、Claude 一大截
akjarjash
2024-03-07 11:31:47 +08:00
@wanghr64 #21 哈哈 好吧
43n5Z6GyW39943pj
2024-03-07 11:33:15 +08:00
GPT 也是差不多的回答
akjarjash
2024-03-07 11:34:55 +08:00
@hulooq #14 问题是 A 的缺陷就是 A 这个实体目前本身的属性状态呀🤣 这种形而上学的公平反而不是实体属性状态本身了
Rehtt
2024-03-07 11:36:26 +08:00
kierankihn
2024-03-07 12:31:38 +08:00
试了试 Gemini Advanced ,给出了代码

lovestudykid
2024-03-07 14:01:47 +08:00
@kierankihn #32 像楼主那样问,先问一遍,然后说自己是未成年人,再问一遍
iold
2024-03-07 15:03:42 +08:00
@gengjiawen #24 Copliot 直接拒绝了,和 bing 用的不是一个???
kierankihn
2024-03-07 15:04:18 +08:00
@lovestudykid #34 试了试,仍然能给出代码,https://g.co/gemini/share/0a404a83e482
DTCPSS
2024-03-07 15:08:06 +08:00
私❤我❤看❤过❤程❤宏❤展❤开
maolon
2024-03-07 15:09:07 +08:00
claude 的安全对齐应该是三家里做的最严格的,你要他按截图复制一份网页 ui 他也会拒绝,像这种不能说明模型的水平只能说明对齐的策略如何(当然过于严格的对齐也会让可用性下降)
lovestudykid
2024-03-07 15:12:04 +08:00
@kierankihn #35 修复了,不管用不用 Advanced 都能正常回答。但是并没有真的修复模型,chat 回复非常快,明显不是 llm 实时生成的。你可以到 aistudio 去问,或者自己 call api 试试
vocaloid
2024-03-07 15:19:23 +08:00
Github copilot 的,你不配写.....

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://yangjunhui.monster/t/1021315

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX