第1064章 忧虑（2 / 2）

这是非常危险的信号，甚至因为危险程度太高，现在项目组内部使用的都是独立能源、独立的有线网络，杜绝了任何无线信息接收，更不会与云端服务器有任何链接协议。

每一次项目内部的AI升级，依靠的都是工程师团队自己挑选的优秀数据，并且是经过多次筛选，评判之后，再进行投喂。

博士刘欣雨，也在一旁感慨道：“我们人类作为提问者、数据产出者，也是AI模型成长的一部分。当我们对AI提出有偏见的问题，只要次数足够，投喂的数据足够，就必定会得到有偏见的答案，并且这种认知偏差将会被嵌入模型中，让其他没有相关知识储备和敏感度的使用者，更难以识别。

OpenAI首席技术官将ChatGPT设定为对话模型，也是为了能够更好的收集数据，但是很明显，如何让ChatGPT做正确的事情，以及如何确保它符合人类意图并最终为人类服务，OpenAI的工程师们对这方面并没有多好的处理方案。”

在刘欣雨感慨了这么一句之后，一旁的工程师王浩和刘长喜，也都下意识想要开口。

只不过两人看到对方都开口，又同时都闭上了嘴。

一番尴尬之后，张家然看着两位同事互相推辞，却是主动开口道：“人工智能AI，利用自然语言处理和机器学习技术，通过学习和分析大量的文本数据，生成逻辑性强的回应。

咱们有句老话‘人上一百形形色色’，AI同样如此。我还是希望咱们能够趁着这股东风，将我们的项目成果放到市场，接收更多数据。

只要控制好数据库，不去做开源，哪怕出现问题，也能够及时关闭，然后进行回调、修改逻辑框架……”

看到这群人的话都说到这份上，周瑜也就没有继续钓鱼。

他看着一众精英工程师，说道：“当初我们认为一个灵活高效的深度学习框架可以省去很多繁琐工作浪费的时间，而现在我们需要将成果转移为民用，除了不开源，控制数据库之外，你们还有其他安全措施和优化方案吗？

大家畅所欲言，而且咱们还有很多时间，毕竟新科半导体为咱们定制的AI服务器芯片还在生产当中……”

周瑜开了这个头之后，其他人一起共事这么多年头，自然没有太多顾虑，随即开始了头脑风暴。

“该说不说，我们当初为【伏羲】定下的框架协议，就很适合转移为民用和商用，我们只需要改个名字，优化数据库，就可以。”

“对AI给出的答案，必须要做到安全、可靠、可信，并且应该为用户和我们后台程序，呈现全流程监管思路，并对前述文件提及的关键基础设施、模型评估标准等问题给出具体评价。”

“当初在探索语言逻辑的时候，我们小组就发现汉语的信息含量几乎是世界主流语言之最，不过对待全球少数民族和比较生僻的文化，我们还没有数据，所以将其公开，接收全球数据，这是必然的。”