在周二，OpenAI的多位现任及前任员工联合发布了一封公开信，指出该公司在人工智能领域缺乏必要的透明度和问责机制，无法有效应对技术带来的潜在风险。
信中对人工智能的安全隐患表达了深切的担忧，指出“这可能会进一步加剧现有的不平等，导致信息操控和错误传播，甚至可能使人类面临灭绝的风险。”
其中包括一名来自谷歌深度思维(Google DeepMind)的员工在内的16位签署者警告称，人工智能公司“有强烈的经济动机来规避有效的监管”，而这些公司的自我监管并不能有效改善现状。
信中提到：“人工智能公司掌握着大量未公开的信息，包括其系统的能力与局限性、保护措施的有效性，以及不同类型伤害的风险程度。”
“然而，他们目前仅有微弱的义务与政府共享这些信息，而对公民社会则几乎没有分享。我们认为不能指望他们会自愿提供这些信息。”
信中还指出，这一现实意味着，只有公司内部的员工能够向公众发声，联署者呼吁制定更全面的举报人保护法律。
信中表示：“广泛的保密协议使我们无法表达我们的担忧，除了那些可能无法解决这些问题的公司。”
据《纽约时报》报道，OpenAI的四名现任员工匿名签署了这封信，因担心遭到公司的报复。
约书亚·本吉奥、杰弗里·辛顿和斯图尔特·罗素也参与了这份备忘录，他们被广泛称为人工智能的“教父”，并对人们对人工智能潜在危险的准备不足表示批评。
OpenAI在一份声明中对这些批评进行了反驳。
声明中称：“我们为提供最强大、最安全的人工智能系统的记录感到自豪，并相信我们在解决风险方面采取了科学的方法。”
“我们同意，考虑到这项技术的重要性，进行严格的辩论至关重要，我们将继续与全球的政府、民间社会及其他社区合作。”
OpenAI还表示，员工有“表达担忧的渠道，包括匿名的诚信热线”，并新成立了一个由董事会成员和高管领导的安全与保障委员会，首席执行官萨姆·奥特曼也在其中。
对OpenAI的批评最初是在《纽约时报》上发表的，与此同时，关于奥特曼对公司领导能力的质疑也在增加。
OpenAI推出了一系列新产品，但该公司坚称，这些产品只有在经过全面测试后才会向公众发布。
最近，一款人形聊天机器人的发布引发了争议，好莱坞明星斯嘉丽·约翰逊抱怨称，这款聊天机器人的声音与她的声音极为相似。
此前，她曾拒绝了奥特曼的邀请。
本文来自作者[svs]投稿，不代表立场，如若转载，请注明出处：http://ex338.cn/post/9200.html
评论列表（4条）
我是的签约作者“svs”！
希望本篇文章《OpenAI内部人士抨击AI缺乏透明度》能对你有所帮助！
本站[]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 在周二，OpenAI的多位现任及前任员工联合发布了一封公开信，指出该公司在人工智能领域缺乏必要的透明度和问责机制，无法有效应对技术带来的潜在风险。...