未加星标

谷歌公布AI七项原则

字体大小 | |
[互联网综合 所属分类 互联网综合 | 发布者 店小二05 | 时间 2018 | 作者 红领巾 ] 0人收藏点击收藏

  6月8日,谷歌CEO Sundar Pichai 发表了署名题为《AI at Google: our principles》的文章,列出7大指导原则,阐述谷歌在研发和使用AI时将遵循的目标。Pichai明确列出了谷歌“不会追求的AI应用”,包括可能造成危害的技术、武器或其他以人身伤害为主要目的的技术、违反国际公约收集或使用信息的技术,以及违反人权和国际法的技术。

  Pichai在文中写道,“这些不是理论概念,而是具体的标准,将积极主导我们的研究和产品开发,并会影响我们的业务决策”。

  Pichai还表示,这些原则是谷歌和人工智能未来发展的正确基础。这种做法与2004年谷歌成立之初“创始人的信”中所提出的价值观一致。

  以下为文章全文:

  Google的AI:我们的原则

  Sundar Pichai, CEO of Google

  AI 的本质,是能够学习和适应不同情境的计算机编程技术。它不能解决所有问题,但它在改善我们生活方面具有深厚的潜能。在 Google,我们应用 AI 技术使得产品更加实用——比如,剔除垃圾邮件,让撰写邮件变得更加轻松;创造能与你自然交流的数字助手;以及能够为你筛选出有趣照片的相册。

  除了自身的产品,我们也正在使用 AI 来帮助人们解决迫在眉睫的问题。两名高中生制作了 AI 驱动的传感器来预测发生森林、草原火灾的风险。牧民正使用 AI 监测其牛群的健康状况。医生已经开始使用 AI 帮助诊断癌症并防治失明。这些明确的福祉正是 Google 投入大量资源用于 AI 技术开发,并通过开发工具和开源代码,让这一技术得以更广泛使用的原因。

  我们认识到,如此强大的技术也同样会引发该如何使用的重要问题。如何开发和应用 AI 技术,将在未来对社会产生重大的影响。作为 AI 技术的引领者之一,我们深感到责任重大,我们必须正确处理这个问题。所以今天,我们宣布七条指导我们未来工作开展的原则。这些原则不是概念,而是具体的标准,它们将积极地管理我们的研究和产品开发工作,并影响我们的业务决策。

  我们承认,这一领域正在快速发展、变化,我们将怀着谦逊的态度开展工作,承诺与来自公司内、外各方沟通交流,并愿意随着时间的推移,根据所学经验不断调整工作方式。

  AI 应用目标

  我们在评估 AI 应用时,将考虑到以下目标。我们相信 AI 应当:

  1。 造福于社会

  新技术的应用将被不断拓展并逐渐影响到整个社会。AI 的进步将对诸多领域产生变革性影响,比如医疗、安全、能源、交通、制造和娱乐等。我们考虑潜在的 AI 技术开发和应用时,将把广泛的社会经济因素考虑在内,当其可能带来的福祉远大于可见的风险和负面影响时,我们才会付诸实施。

  AI 也提高了我们理解海量内容意义的能力。我们将努力通过使用 AI 提供高质量、准确的信息,与此同时继续尊重所在国家的文化、社会和法律规范。我们也会仔细评估何时在非商业的基础上提供我们的技术。

  2。 避免制造或强化不公平的偏见

  AI 的算法和数据集能够反映、强化,或潜在减少不公平偏见。我们认识到区别公平与不公平偏见并不总是那么简单,不同的文化和社会背景也会有所差别。我们将努力避免对人们产生不公正的影响,尤其是那些与敏感特征有关的,比如种族、民族、性别、国籍、收入、性取向、生理残疾以及政治倾向或宗教信仰。

  3。 为安全而建造和测试

  我们将继续开发和应用强有力的安全和保障措施,以避免意料之外的结果产生风险危害。我们将把 AI 系统设计为适度慎重,并将努力按照 AI 安全性研究领域中的最佳实践开发。在合适的情况下,我们将在受限可控的环境中测试 AI 技术,并在部署后监测它们的运行情况。

  4。 对人负责

  我们将设计 AI 系统并为其提供恰当的机会反馈,做出相关解释和请求。我们的 AI 技术将受恰当的人类指导和控制。

  5。 纳入隐私设计原则

  我们将在 AI 技术的开发和使用中纳入我们的隐私原则。我们将提供告知与许可的机会,鼓励具有隐私保护的架构,并且在数据的使用方面提供恰当的透明度和掌控。

  6。 坚持科学卓越的高标准

  科技创新根植于科学的研究方法,以及对开放式探究、理性严谨、诚信及协作的承诺。AI 工具有潜力在诸如生物,化学,医药与环境科学等关键科研领域,开拓科学研究和知识的新领域。我们致力于在推进 AI 开发时,坚持科学卓越的高标准。

  我们将与广泛的利益相关方一起,凭借科学上的严谨性以及多学科的方式,在这一领域提升考虑周全的领导力。我们也会通过发布教学材料,最佳实践和研究,分享我们的AI知识,让更多人能够开发实用的 AI 应用。

  7。 根据这些原则提供使用

  许多技术都具备多种用途。我们将尽力限制潜在的有害应用或滥用。当我们开发和部署 AI 技术时,我们将考虑以下因素评估该技术可能的用途:

  主要目的和用途:技术与应用的主要目的以及可能的用途,包括这一方案与有害使用的相关性和可适用性

  本质与独特性:我们提供的技术是否独特还是具有更广泛的可获得性

  规模:这种技术的使用是否会产生重大影响

  Google 参与的性质:我们是提供通用工具,为客户集成工具,还是开发定制化解决方案

  我们将不会进行的 AI 应用

  在以上原则基础上,我们将不在以下领域进行 AI 的设计和部署:

  1。 导致或有可能导致整体危害的技术。若存在产生危害的实质风险,我们只会在确认其好处远远超过风险的情况下才会推进,并加入适当的安全限制。

  2。 主要目的或应用是为了导致或直接造成人身伤害的武器或其他技术。

  3。 收集或使用信息以用于违反国际公认准则的监控的技术。

  4。 其目的违背公认的国际法和人权原则的技术。

  我们想明确地告诉大家,尽管我们不会开发 AI 用于武器,我们仍然会与政府和军队在诸多其他领域合作。包括网络安全、培训、军队招募、退伍军人健康医疗、以及搜救等。这些合作非常重要,我们会主动寻求更多方式来强化与这些机构的合作,保障军方服役人员和平民的安全。

  长远的 AI

  这就是我们如何开展AI的方式。我们也知道,这个话题还有很多不同的声音。随着 AI 技术的进步,我们将与广泛的利益相关方一起,凭借科学上的严谨性以及多学科的方式,在这一领域提升考虑周全的领导力。我们将继续和大家分享我们在改进 AI 技术和实践中学到的知识。

  我们相信这些原则是我们公司以及 AI 未来发展的正确基础。这一做法和 2004 年最初的创始人公开信中公布的价值观一致。在信中我们清晰地表明了我们希望有长远的眼光,即使这意味着我们将在短期有所舍弃。这是我们当时的诺言,也是我们今日的信念。

tags: AI,技术,Google,Pichai,原则,谷歌,领域,提供,科学
分页:12
转载请注明
本文标题:谷歌公布AI七项原则
本站链接:https://www.codesec.net/view/577363.html


1.凡CodeSecTeam转载的文章,均出自其它媒体或其他官网介绍,目的在于传递更多的信息,并不代表本站赞同其观点和其真实性负责;
2.转载的文章仅代表原创作者观点,与本站无关。其原创性以及文中陈述文字和内容未经本站证实,本站对该文以及其中全部或者部分内容、文字的真实性、完整性、及时性,不作出任何保证或承若;
3.如本站转载稿涉及版权等问题,请作者及时联系本站,我们会及时处理。
登录后可拥有收藏文章、关注作者等权限...
技术大类 技术大类 | 互联网综合 | 评论(0) | 阅读(2040)