五大科技巨头联手制定AI道德规范 防止危害人类

　　研究人员讨论人工智能的影响

　　北京时间9月2日消息，据《纽约时报》网络版报道，多年来，科幻电影描述的场景一直让我们担心：有朝一日机器人会危害人类。但是，未来一、二十年，我们最大的担忧更可能是机器人会夺走人类工作岗位，或在公路上与人类撞车。

　　目前，世界上五大科技公司在尝试制定开发人工智能技术的道德标准。虽然科幻作品一直在大肆渲染人工智能对人类生存的威胁，但来自谷歌母公司 Alphabet、亚马逊、Facebook、IBM和微软的研究人员，在讨论更具体的问题，例如人工智能对工作岗位、运输，甚至战争的影响。

　　长期以来，科技公司一直在过度宣扬人工智能的作用。但是，最近数年人工智能在多个领域取得了长足进步，其中包括自动驾驶汽车、能理解人类语言的智能语音设备(例如亚马逊的Echo智能音箱)，甚至是可能使战争自动化的新一代武器系统。

　　目前尚不清楚这五大科技公司研讨的具体成果。据4名参与研讨的人士称，但它们的基本目标很清楚：确保人工智能研究会造福而非危害人类。

　　斯坦福大学一个研究团队周四发表的一份报告，彰显了业界在这一领域合作的重要性。该团队计划每5年发表一份有关人工智能对人类影响的报告。

　　科技产业的一大担忧是，监管机构会制定与人工智能研究有关的法律法规。因此他们尝试建立一个自律组织框架，虽然目前尚不清楚这一组织框架如何发挥作用。

　　德克萨斯大学计算机科学家、上述斯坦福大学报告作者之一彼得·斯通(PeterStone)表示，“我们并不是说人工智能领域不需要监管，我们认为监管有正确、错误之分。”

　　虽然科技产业以竞争激烈闻名，但为了共同的利益，各厂商也进行合作。例如，1990年代，科技公司就电子商务交易加密方法达成一致，为此后20年的互联网大发展奠定了基础。

　　上述斯坦福大学报告作者声称，对人工智能进行监管是不可能的，“研究小组一致认为，尝试监管人工智能是误入歧途，因为人工智能还没有清晰的定义，不同领域存在的风险和需要注意的事项有诸多不同之处”。

　　斯通表示，报告提出的一个建议是，提高各级政府的人工智能意识和知识。报告还呼吁私营和公共机构增加人工智能投资。

　　IBM沃森人工智能部门总经理大卫·肯尼(DavidKenny)表示，“政府在人工智能的发展中能发挥作用，我们对此表示尊重。”他说，问题在于“政策远远落后于技术”。

　　五大科技公司设想在9月中旬宣布成立新组织。据一名参与谈判的人士称，尚未解决的一个问题是，Alphabet旗下DeepMind要求以独立身份加入该组织。

　　另外，职业社交网站LinkedIn联合创始人雷德·霍夫曼(ReidHoffman)在与麻省理工学院媒体实验室洽谈，目的是资助一个探索人工智能社会和经济影响的项目。

　　麻省理工学院项目和五大科技公司的合作，都尝试把技术进步与社会和经济政策问题更密切地联系在一起。麻省理工学院团队一直在讨论一个问题：在设计新的人工智能和机器人系统时“考虑社会影响”。

　　麻省理工学院媒体实验室主任伊藤穰一(JoichiIto)说，“我要指出的关键一点是，计算机科学家不擅长与社会科学家和哲学家打交道，我们要做的是，支持和增强社会科学家在制定政策方面的作用。”