接下来的几年将以人工智能技术的快速发展为标志。 也许有必要为人工智能的创建和使用引入明确定义的框架？ 6 个月的经验是否足以规范一项甚至还没有离开实验室的技术？ 谈到人工智能，这个问题越来越多地出自专家和记者之口。 采取措施规范人工智能的声音和呼吁——无论是在用户层面还是在项目开发层面——都越来越频繁地被听到。 这种呼吁的历史很久以前就开始了。
人工智能在数字空间中无处不在，最重要的是，能够创造与人类创造的内容没有区别的模型，唤起了截然不同的情绪。 一方面，我们有一群爱好者看到了 AI 的未来，尽管它的能力相对有限（因为 AI 不会思考，通常只是从互联网上获取信息），但我们并不害怕将许多任务交给它. 街垒的另一边是一群对当前人工智能发展趋势表示怀疑和担忧的团体。
这两个群体之间的桥梁是人工智能研究人员，他们一方面举出大量人工智能如何对周围现实产生积极影响的例子。 同时，他们明白固步自封还为时过早，巨大的技术飞跃带来诸多挑战和重大责任。 这种态度的一个明显例子是由中佛罗里达大学的 Ozlem Garibay 博士领导的一个国际人工智能和机器学习研究小组。 这份 47 页的出版物由来自世界各地的 26 位科学家撰写，确定并描述了研究机构、公司和公司必须解决的六大挑战，以确保他们的模型（以及使用它们的软件）安全。
是的，这是一部严肃的科学著作，对理解人工智能的未来有着重要的解释。 谁有兴趣，可以独立 阅读这份科学报告 并得出自己的结论。 简而言之，科学家们已经确定了人工智能的 6 条戒律。 所有人工智能的发展和行动都必须符合它们，这样对人类和世界都是安全的。
在我的文章中，恰恰是在这项科学工作的基础上写的，我将尝试制定人工智能应该存在和发展的主要假设和法则。 是的，这是我对科学家关于人工智能发展的结论的几乎自由的解释，并试图将它们呈现在可以说是圣经的版本中。 但这就是我想向您介绍受人尊敬的科学家的这项科学工作的方式。
也很有趣： 构建 AI：谁在领先？
第一定律：人类福祉
研究人员的第一个假设是将人工智能的工作重点放在人类福祉上。 由于缺乏“人类价值观、常识和道德”，人工智能的行为方式可能会导致人类福祉的显着恶化。 问题可能是 AI 超人能力的结果（例如，AI 击败人类的难易程度——不仅在国际象棋上），也可能是 AI 不独立思考，因此无法“过滤掉”偏见或明显的错误。
研究人员指出，对人工智能技术的过度信任会对人们的福祉产生负面影响。 一个对人工智能算法实际工作原理知之甚少的社会往往会过度信任它，或者相反，对特定模型（尤其是聊天机器人）生成的内容持消极态度。 考虑到这些和其他因素，Garibay 的团队呼吁将人类福祉置于未来人工智能与人类互动的中心。
另请阅读： ChatGPT：简单的用户指南
第二定律：责任
在我们使用机器学习的背景下，问责制是一个在 AI 世界中不断出现的术语，以及 AI 模型和算法的开发和训练方式。 国际团队强调，人工智能的设计、开发和实施应该完全出于善意。
在他们看来，责任不仅应在技术上考虑，而且应在法律和道德背景下考虑。 不仅要从有效性的角度考虑技术，还要考虑其使用的背景。
“随着先进机器学习技术的引入，了解决策是如何做出的以及由谁负责变得越来越重要” - 写给研究人员。
第三条：保密
隐私是每一次关于技术的讨论中都会回旋镖的话题。 尤其是在社交网络中讨论所有内容时。 然而，这对于人工智能来说极其重要，因为没有数据库它就不会存在。 什么是数据库？
科学家们将它们描述为“构成我们看待世界方式的基本构件的抽象”。 这些块通常是平凡的值：颜色、形状、纹理、距离、时间。 虽然狭义 AI 专注于单一目标，例如快门在给定光强度下打开的程度，使用公开可用的客观数据，但 AI 在更广泛的应用中（这里，例如，文本到图像模型，如 Midjourney ，或诸如 ChatGPT 之类的语言模型）可以使用关于人的数据和由人创建的数据。 还应提及在互联网上发表的报刊文章、书籍、插图和照片。 人工智能算法可以访问一切，因为我们自己将它交给了它们。 否则，他将什么都不知道，也不会回答任何问题。
用户数据从根本上影响收集这些数据的人以及将实施人工智能算法的系统中的人。
因此，第三个挑战涉及对隐私的广泛理解和提供诸如独处权、限制接触自己的权利、个人生活或业务保密权、控制个人权利等权利信息，即保护个人人格、个性和尊严的权利。 所有这些都必须写入算法，否则隐私将不复存在，人工智能算法可以用于欺诈计划和刑事犯罪。
另请阅读： 使用 ChatGPT 的 7 种最酷方式
第四定律：项目结构
人工智能可以极其简单和单一用途，但在具有广泛和多任务性质的较大模型的情况下，问题不仅在于数据隐私，还在于设计结构。
例如，OpenAI 最新的人工智能模型 GPT-4，尽管其规模庞大且对 AI 世界（及其他领域）产生了影响，但并没有完全公开的文档。 也就是说，我们不了解开发人员的最终目标是什么，他们希望在最终结果中获得什么。 因此，我们无法全面评估与使用该 AI 模型相关的风险。 另一方面，GPT-3 根据 4chan 论坛的数据进行训练，是您绝对不想与之交互的模型。 4chan 论坛是互联网上最有趣的现象之一。 这是一个绝对的、完全无政府状态的例子，在实践中不受任何框架的限制。 这就是创建 Anonymous 或 LulzSec 等黑客组织的地方。 它是许多最流行的模因的来源，是讨论有争议的话题和发表更有争议的观点的地方。 虽然英文图片板指出“到目前为止它是合法的”，但这有点值得怀疑，因为 4chan 偶尔会与媒体互动，包括种族主义、纳粹和性别歧视的内容。
Garibay 教授的团队希望每个人工智能模型都在一个明确定义的框架内工作。 不仅因为与 AI 交互的人的福祉，还因为评估与使用模型相关的风险的能力。 任何项目的结构都应包括尊重不同文化群体和利益相关者的需求、价值观和愿望。 创建、训练和微调 AI 的过程应着重于人类福祉，而最终产品——AI 模型——应着重于增强和改善人类社区本身的生产力。 无法识别风险的模型应该具有有限或受控的访问权限。 它们不应该对人类构成威胁，相反，它们应该有助于人类和整个社会的发展。
另请阅读： Twitter 在埃隆马斯克的手中 - 威胁还是“改进”？
第五定律：治理和独立监督
人工智能算法在短短一年内确实改变了世界。 Bard by Google 和 Bing 首映 Microsoft 极大地影响了两家巨头在证券交易所的股票。顺便说一句，即使在股票背景下，他们也为这些公司的股票增长做出了贡献 Apple. ChatGPT 已经开始被学校学生积极使用，他们与它交流，检查它，并提出问题。 最重要的是，他有能力自学，改正错误。 人工智能甚至开始在一些国家的政府中发挥作用。 罗马尼亚总理尼古拉·丘卡就是这种情况 雇了一个虚拟的 一位助手，他将告知他社会的需求。 也就是说，人工智能在我们的生活中扮演着越来越重要的角色。
鉴于人工智能、人类和环境之间的相互依赖性不断增强，科学家们认为有必要建立管理机构并对其发展进行独立监督。 这些机构将控制人工智能的整个生命周期：从构思到开发和实施。 当局将适当定义人工智能的不同模型，并考虑与人工智能和社会生活主题相关的案例。 也就是说，人工智能可以成为法庭案件的主题，也可以成为诉讼的主题。 当然，当然不是他本人，而是他的开发人员。
另请阅读： 关于 Neuralink：赛博朋克疯狂的开始？
第六定律：人与人工智能的互动
在人工智能程序中，每个人都可以找到适合自己的东西：生成文本、检测图像中的内容、回答问题、生成图像、识别照片中的人物、分析数据。 这些多种用途不仅是试图使人工智能适应法律和道德标准的人们所关心的问题。 许多人担心被人工智能模型从劳动力市场取代。 因为人工智能算法将能够比人类更快、更便宜、甚至更好地完成同样的事情。 同时，也有人在工作中依赖人工智能，即人工智能在今天已经是他们不可或缺的助手。
但从科学家们提到的研究来看，很明显，廉价的人工劳动力取代人还很遥远。 尽管如此，他们已经坚持需要在人类和人工智能之间建立严格的交互等级。 在他们看来，人类应该凌驾于人工智能之上。 人工智能的创建必须尊重人的认知能力，考虑到他的情绪、社会互动、想法、计划以及与物体的互动。 也就是说，在任何情况下，都必须是人站在人工智能之上，控制模型创造的行为和内容，并对其负责。 简而言之，即使是最先进的人工智能也必须服从人，不能越界，以免伤害其创造者。
另请阅读： 乌克兰在战时如何使用和改造 Starlink
维斯诺夫斯基
是的，有人会说科学家们在他们的报告中没有指出任何重要的和新的东西。 每个人都在谈论这个很长一段时间。 但现在已经有必要将 AI 置于某些法律框架中。 伸手去拿 GPT-4 就像盲目地伸手去拿刀。 他们向我们隐藏关键信息。 人工智能的所有发展，尤其是 Open AI 的 ChatGPT 项目，常常让我想起抚养小孩。 有时似乎这是一个外星人的孩子。 是的，一个外星人，但他仍然是一个学习、犯错、有时行为不当、易怒、与父母争论的孩子。 虽然成长和发展的非常快。
人类可能跟不上它的发展，事情可能会失控。 因此，人类已经需要了解我们为什么要发展这一切，了解最终目标，成为“负责任的父母”，否则“孩子”可以简单地摧毁它的“父母”。
另请阅读：