AI助手时代：挑战与机遇并存-外链论坛

lbk60ox 发表于 2024-9-28 18:31:17

AI助手时代：挑战与机遇并存

本报记者赵姗
微软的创始人比尔·盖茨有一句名言：“咱们总是高估在一年或两年中能够做到的，而低估五年或十年中能够做到的。”这句话用来理解人工智能的影响是相当合适的。日前，随着人工智能产业飞速发展，催生了新的人机交互模式，核心便是AI大模型驱动的智能体（AI Agent）（以下简叫作“AI助手”）。AI助手让“人机协同”作为新常态，个人与企业正在步入AI助手时代。
然而，伴同着快速发展，一系列问题与挑战亦随之而来。怎样在应对AI助手面临挑战的同期抓住发展机遇，实现AI助手的可连续发展和更广泛应用，作为行业需要深入思考和探讨的重点。
数据隐私安全、伦理和法律等作为挑战
“AI助手在快速发展的同期，亦面临许多挑战和问题。”国务院发展科研中心创新发展科研部第二科研室专家杨超在接受中国经济时报记者采访时暗示，在这些问题中，最为关键的还在于AI助手运用所带来的数据隐私安全、伦理和法律问题。
杨超认为，从数据隐私守护来看，因为人工智能系统本身需要依赖海量用户数据进行训练，必然会引起关联公司将AI助手服务时期获取和产生的数据用于AI助手本身的优化，即使经过删除个性化属性等方式对数据脱敏，数据隐私和安全问题亦难以完全避免。尤其是随着AI助手的普及，其训练触及的数据量将快速提高，从而进一步放大安全危害。
从伦理和法律方向看，随着AI助手能力的加强，其自主性和决策能力必然会明显提高，在部分应用场景中将会脱离人类的直接指令而开展自主行径。这些自主行径一旦产生外边性影响，就将诱发伦理和法律问题。“一个经典的例子是，人工智能自动驾驶的汽车在行驶过程中，前方忽然显现行人，改变行驶方向会损伤乘客，不改变方向则会损伤行人。这种状况下无论AI助手做出何种选取都会带来伦理问题。”杨超说。
清华大学繁杂工程系统实验室专家、中国人工智能学会智能制品与产业工作委员会专家任勇在接受中国经济时报记者采访时暗示，在当下周期，AI助手仍然面临技术创新与场景适配度的挑战。
一是算法的精细性与靠谱性。AI助手的核心——算法需要持续学习和优化以加强准确性和靠谱性，然而，面对繁杂多变的用户需要和场景，当前的算法常常难以达到期待的需求。
二是跨模态学习与环境理解能力。AI助手当前的技术水平仍存在必定的局限性，难以充分理解和整合应用时空变化的模态信息，对环境信息的多模态感知与理解尚有很大的提高空间。
三是场景理解与适应能力。有些场景化需要超越了简单的理学环境感知，需要与场景自己的底层规律、应用规律相结合才可理解，这对当下的AI助手而言是一个现实挑战。
“另外，AI技术的繁杂性和变化性使得已有法规难以完全覆盖各样变动。当AI助手显现错误或导致损害时，责任追究便成为了困难。”任勇说。
“AI助手面临的挑战还有算法偏见与卑视、过度依赖和成瘾。”清华大学人工智能国际治理科研院秘书长、欧美朋友会科研院人工智能和数字经济科研中心执行专家鲁俊群在接受中国经济时报记者采访时暗示。
鲁俊群认为，日前，AI算法的训练数据还存在不完备性和偏向性。因为AI训练所运用的语料数据本身可能客观上就存在着统计学上的必定偏差，还有可能存在研发者的个人偏好等，因此呢，现周期的各样AI助手仍有可能存在必定的算法偏见与卑视问题。对此，有必要创立对技术背面训练数据和算法的审查机制，如通过创立AI伦理委员会等形式加强审核。
另一，“假如一名用户经常与AI角色互动来寻求帮忙和安慰，容易对其产生情感上的依赖，以此来填补情感需要上的空缺，这有可能引起用户沉迷虚拟世界而忽略现实世界。对此，意见针对AI助手应该运用得当，同期应该重视保持与现实世界的互动。”鲁俊群说。
将来发展方向：垂直行业专业化、与具身智能的结合
当前，大模型进入应用时代，多家科技机构都展出了最新AI应用。
“AI助手发展的方向是多样的，在技术路线和应用场景的双重影响下，将会迎来种类繁多的AI助手。”杨超认为，其中，有两个方向是较为确定的。
一是垂直行业专业化。在特定行业或行业，如家政、健康、医疗、法律、金融等大行业，乃至是制造业中区别行业等小行业，AI助手都将具备更深入的专业知识和技能，供给专业服务。
二是与具身智能的结合。随着人工智能能力的提高，其供给的服务将不仅是咨询和智力服务，而是经过更加多的感知和操作，为人类供给直接与物质世界交互的能力。
任勇认为，就发展方向而言，AI助手在产业场景和个体场景中的应用虽然都基于人工智能技术，但在技术路径和响应机理上存在着明显差异。
AI助手产业场景的技术路径重点是针对特定需要，如制造业、物流、医疗、教育等，AI助手一般需要进行定制化研发，以符合行业的特定需要。利用相应产业所产生的数据，结合各样设备学习算法，AI助手能够自主学习和优化，实现智能排班、任务分配、数据分析、流程优化等高级功能。这里过程中，AI助手常常需要与企业的其他系统进行集成，如ERP（企业资源计划）、CRM（客户关系管理）等，以实现信息的共享和协作。经过以上技术路径实现对重复性烦琐任务的自主处理和数据洞察、科学决策、降本增效。
AI助手用于个体场景的技术路径重点是利用通用智能平台，如智能手机、智能家居设备等，经过语音识别和自然语言交互、多设备协同来辅助用户完成任务，提高平常生活的便利性和服务的精细性。
“在产业场景中，AI助手重点关注于提高效率、优化决策和降低成本，需要更加多的定制化研发和集成协作；而在个人生活场景中，AI助手则更注重于供给方便化、个性化、适应性服务，将来的技术创新只能围绕区别场景下各自的内生逻辑进行迭代优化。”任勇说。
鲁俊群认为，AI助手将来可能会向多模态交互以及具身智能方向发展。
“为了实现具身智能，需要将类ChatGPT等这些基本大模型与进化学习机制相结合，经过与理学世界交互取得的新数据（而再也不是人类投喂的数据）来持续学习，并适应新环境，优化行径策略。多模态大模型能够整合视觉、听觉、触觉等多种感官数据，提高设备人的理解能力。使具身智能设备人在与理学世界的互动和理解方面更加人性化。这些将来的AI助手设备人能够自主理解场景、识别自然语言指令、规划任务，并执行操作，将是人类最得力的智能助理。”鲁俊群说。
从创新方向引导、应用场景规范方面为AI助手供给支持保证
当前，AI助手的服务升级与互联互通是国内多家互联网科技机构连续探索的重点。
杨超意见，第1，加强对用户隐私和数据安全的守护。强制性地将用户隐私和数据安全做为供给AI助手服务的前置要求，引导和鼓励关联公司采用先进的数据加密和匿名化技术，保证用户数据的安全和隐私。
第二，加强AI助手决策过程的可解释性，让用户能够理解其行径和决策规律，从而加强用户信任度。为全部社会更好接纳AI助手创造良好的环境，从而为在更广阔的应用场景中运用AI助手供给帮忙。
第三，加强伦理和法规遵从。按照人工智能技术的进步即时修订关联法律法规，完善对AI助手进行规制的制度环境，保证AI助手的研发和应用符合伦理标准和法律法规，避免产生卑视、偏见等问题。
“国家政策层面应该从创新方向引导和应用场景规范两个方面出发，为AI助手的发展供给支持和保证。包含知道AI助手的适用场景和范围等，避免误用，更要避免国际资本集团假借技术触发虚假市场的乱用。尤其是在医疗、教育、交通等关键行业，应严格规范AI助手的应用要求和程序。另外，要创立健全AI助手的监管机制，加强社会力量尤其是人民群众对AI助手应用的监督和评定，保证其合规性、恰当性和安全性。针对违规行径，应依法进行处罚和追责。”任勇暗示。
将来，企业能够利用AI助手优化现有业务流程，尤其是在新制品开发和服务的创新应用方面，AI助手的普及将推动区别行业之间的跨界融合和协同发展，为企业带来新的商场机会和合作伙伴，从而带动商场模式和生态的变革。
中央财经大学数字经济融合创新发展中心专家陈端在接受中国经济时报记者采访时认为，企业运用AI助手强化核心竞争力需要一系列的战略规划和技术实施。
一是要识别关键业务场景，深入认识业务需要，确定AI助手在那些环节能够发挥最大价值，而后为选定的业务场景知道详细的需要和目的，如加强客户满意度、优化库存管理、加强市场分析能力等。
二是按照业务需要和技术成熟度，选取适合的AI技术和处理方法，要充分思虑与现有系统的兼容性，保证AI助手能够顺利集成到企业的IT架构中。另外，还要创立完善的数据治理体系，避免由于数据偏差引起的结果偏差。
三是需要设立知道的评定指标和机制，对AI助手的性能和效果进行定时评定，即时调节和优化AI助手的算法和模型，以提高其准确性和效率。另外，还需要关注AI助手可能带来的伦理和社会问题，保证其应用符合道德和法律规范。

页: [1]

外链论坛's Archiver

AI助手时代：挑战与机遇并存