点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
动科普|交友变“交钱”？当心交友软件暗藏“诱导消费”****** 【万万没想到！App花样套路大解密④——交友平台篇】 一对一交友、秀场直播、语音陪玩、视频直播……近年来，社交交友类应用逐渐深入到终端用户的日常生活中。 然而，一些社交App打着交友名义进行“情感欺诈”，不仅侵犯了用户权益，更严重影响了网络生态。接下来，我们来盘点部分社交交友类App中暗藏的风险。  风险一：应用内存在低俗色情内容  ①低俗挑逗性聊天内容 用户收到低俗挑逗性的聊天内容，包括充斥性暗示的文字、语音或是图片。 ②社区内存在低俗色情内容 有些社交交友类应用具有用户社区或论坛模块，本意是为了增强应用的社交性，但部分社交交友应用缺少对社区论坛内用户发布内容的监管及审核，导致社区内出现低俗色情内容。 ③用户个人简介中存在低俗色情内容 部分社交交友类应用对用户提交的个人简介等资料审核不严，在用户个人简介中存在低俗色情内容，包括但不限于使用含性暗示的图片或文字等，有些应用还存在为色情平台引流的情况。 风险二：应用内存在诱导付费行为 交友类应用常见产品模式是限制用户的发言次数或视频通话功能，需要用户付费充值使用。然而，部分交友应用在用户注册或登录后发送大量交友信息，或发送视频聊天等，通过一些不合规行为诱导用户付费。
①应用内的概率性游戏公示不合规 用户使用应用内代币参与游戏，最终能否获得更高代币价值的奖品，存在一定概率。按照规定，这类游戏需公示虚拟服务的名称、性能、内容、数量及抽取概率。但是一些应用没有公示明确的奖品抽取概率，诱导用户进行不理智的充值抽奖。 ②主动弹出视频通话诱导用户付费 部分应用会主动弹出视频通话邀请，这些邀请往往来自于用户没有主动交流过的对象，在邀请页面会放上提前录制好的女性用户视频，诱导用户付费接听。更有甚者，在应用后台频繁弹出视频通话邀请。 ③频繁发送定制化消息诱导用户付费 部分交友类应用还会限制用户发送消息，用户想要聊天需要付费充值。此类交友应用中存在给用户频繁发送大量聊天消息的现象，这类聊天信息有明显的话术痕迹，通过这种方式增加用户的留存率，诱导用户充值发言。 风险三：应用内存在擦边博彩的游戏玩法 一些交友类应用在应用内设置概率性游戏，比如，抽奖、砸金蛋、盲盒机等。这种游戏玩法跟博彩趋同，充当赌注的虚拟道具或货币最终会与现实货币挂钩。  ①用户通过充值获得代币参与概率性游戏 部分社交交友类应用存在转盘抽奖等概率性游戏。用户通过充值获得代币，如积分、钻石一类的应用内货币，可以用于参与此类概率性游戏。 有部分应用设置了只能用于参与概率性游戏的代币，应用内的代币目的是为了购买娱乐性、表演性服务，但当代币只用于概率性游戏时，其目的已经偏离了代币的初衷。 ②应用存在将概率性游戏奖品变现的途径 在用户参与概率性游戏获得更高价值的奖品后，擦边博彩的游戏玩法还会存在用户能将此类奖品变现的途径，使得当赌注的虚拟道具或货币最终与现实货币挂钩。 比如，用户通过将代币、虚拟道具等打赏赠送给自己账号，最终可以将参与游戏获得的奖品折换成现实货币。 风险四：应用的青少年模式不合规 部分交友类应用提供了直播服务，按照相关规定应设置青少年模式，禁止未成年人观看直播和充值打赏。然而，这类应用的青少年模式大多形同虚设。  ①没有提供青少年模式 部分应用提供直播服务，有打赏功能，但是这类应用以未成年身份注册时能正常使用，且不会对用户进行限制和提示用户开启青少年模式。应用内也找不到青少年模式的开关。 ②青少年模式无效 部分应用虽然有青少年模式的开关，但在青少年模式下应用内容和功能都没有明显变化，同样可以观看直播，进行充值付费打赏等。 风险五：应用的实名认证功能不合规 交友类应用通过实名认证：一是可以确保用户的真实性，更有利于平台监管；二是可以有效预防网络诈骗；三是严格的实名认证机制能起到保护青少年，为未成年人提供良好网络环境的作用。  然而，有部分交友类应用的实名认证并没有验证审核，用户提交虚假资料也可以通过认证，还有部分应用没有实名认证机制。 专家提醒 内容安全是互联网企业的生命线，也是互联网行业的行为底线。网络社交平台在为用户提供人际互动良好体验的同时，也容易助长一些违法犯罪和社会不良现象。对于用户来说，要以健康的心态参与网络平台社交互动，切忌抱着“猎奇”“猎艳”等不良心态，避免落入犯罪分子编织的“陷阱”。与此同时，平台应加强监管治理，切实担负起主体责任，维护行业良好秩序。（部分内容综合自人民日报） 监制：张宁 策划：李政葳 制作：姚坤森 （文图：赵筱尘 巫邓炎） [责编：天天中] 阅读剩余全文（）  视觉焦点
快三平台地图 |
)