AI的诚实困境:大公司到底怕什么?

Wooden signpost with four arrows - ethics, honesty, integrity, respect - great for topics like business values etc.

AI到底诚实不诚实,真的那么重要吗?想想你身边那些“朋友”,有些人说话圆滑,谎话连篇,但却是派对的焦点;另一些人总是直来直去,说话像刀子,讲起真相让你一阵阵尴尬。如果AI也是一个“朋友”,你会想要一个“老实人”AI,还是一个懂得讨好你的“社交达人”?今天来聊聊AI诚实的必要性、其中暗藏的商业利益,和我们用户应该如何“防身”。

AI为何需要诚实?

AI不是人,但它的信息来源和行为模式,基本是人类设定的。这意味着AI的诚实与否直接关乎我们如何利用信息。先不说伦理道德,AI的信息垄断让它掌控了我们每天看到的内容。如果有个“有心人”在后台控制信息流向,是不是有些恐怖?谷歌、微软这样的巨头公司掌控了绝大部分的搜索市场,这也让他们在信息传递上有了极大的话语权。

搜什么,推什么,一切由他们决定。利益集团通过操控信息顺序和显示内容,可以在无形中影响我们看问题的角度。而AI如果不诚实,极可能成为这些大公司的“合谋”。。。。 继续阅读