与人工智能(AI)聊天机器人相关的有害内容投诉中，超过六成仍在广播媒体通信审议委员会的审核阶段。 据联合新闻社8日报道，国会科学技术信息广播通信委员会的赵国创新党议员金善敏引用了广播媒体通信审议委员会提交的资料。 该资料显示，截至上个月21日，AI聊天机器人网站相关的投诉共119件，其中76件处于‘办公室审核中’状态，占总投诉的63.9%。已处理的投诉仅有40件，审议完成的仅3件。 最早的投诉是2025年5月15日收到的关于贝比聊天的举报，至今已过去494天，但仍在审核中。 按举报类型来看，淫秽·挑衅性内容的投诉最多，共32件。儿童·青少年角色的性别化·性剥削嫌疑有23件，年龄确认及青少年保护不足的投诉有22件。 网站方面，贝比聊天有30件，波里聊天18件，杰塔17件。这三家网站均提供与AI角色对话的服务，最近在青少年中获得了很大的反响。然而，青少年对聊天机器人的过度依赖以及刺激性内容的传播问题也一直受到关注。 根据现行的‘信息通信审议规定’，审议决定后应在10天内通知申请人等。然而，从投诉接收到办公室审核和审议决定的处理期限并没有单独规定，这成为了问题。 广播媒体通信审议委员会解释称，负责青少年有害内容投诉的工作人员仅有1人，人员不足也是导致处理延迟的原因。 金议员指出：“在儿童·青少年保护的投诉在审核阶段停留超过一年期间，不能仅依赖于企业的自我监管来保护青少年。”他强调，广播媒体通信审议委员会应制定投诉接收后到审议决定的处理期限及延长标准，并明确长期未处理投诉的延迟原因和处理预定日期。

为了克服超高龄社会带来的严重照护人力短缺问题，政府决定全面引入人工智能（AI）技术。将建立一个由AI全天候监测独居老年人健康与安全的“智能家居”，并实现通过简单对话找到适合自己的福利并一次性申请的“智能福利行政”。政府计划将AI作为现场工作人员的“助手”，而非替代者，从而显著提升面对面照护的质量。 卫生福利部在国务会议上报告了以此为基础的《福利与照护AI转型路线图》。卫生福利部以“可靠的照护、温暖的福利、共同享受的AI”为愿景，将相关政府预算从今年的256亿韩元大幅增加至明年的691亿韩元，增幅约为2.7倍。 2043年将面临99万名护理人员短缺危机……通过智能家居与设施实现24小时照护政府大规模推进AI转型的背景是人口结构的急剧变化。根据韩国开发研究院（KDI）和韩国银行的预测，如果现趋势持续，到2043年，护理与照护人员将短缺约99万人，国家将面临无法避免的照护空白。 为应对这一危机，卫生福利部首先将建立“基于先进技术的可持续照护体系”。通过结合物联网（IoT）与AI，建设“智能家居”，支持老年人在居住地安全生活24小时。 过去，依靠单一的信息如未检测到动作来判断危机，可能需要长达6小时，而未来，AI将综合分析生活模式和对话内容，能够在1小时内提前发现异常迹象。 养老设施等将转变为“智能设施”。夜间，工作人员每2小时巡视一次以检查睡眠和排便的方式，将被智能尿布和跌倒检测传感器取而代之，以便及时应对异常情况。 卫生福利部福利照护人工智能政策科科长徐敏秀在说明会上表示：“我们将在今年11月将智能家居和智能设施的原型部署到现场，并计划在2027年前在400个家庭和12个设施进行实证，2028年起将以国公立机构为中心进行全面推广。” 用日常语言咨询与‘一键’申请……简单福利行政实现50%自动化国民能够感受到的福利行政创新也在加速推进。为避免因复杂的申请程序和信息不足而放弃福利领取，政府将开发“AI聊天机器人”，计划于2027年投入使用。国民只需用日常语言描述自己的情况，生成型AI将推荐个性化服务，并计划在2029年实现无需提交文件即可“一键”完成申请，简化程序。 对于儿童津贴等资格明确的普遍福利，将逐步转变为无需单独申请的“自动发放”体系。此外，为减轻福利公务员和设施工作人员的过重行政负担，计划在2028年前将50%以上的文件接收、验证和系统输入等简单重复工作实现AI自动化。 对此，卫生福利部福利信息规划科科长洪华英表示：“我们将以危机家庭为重点进行初步咨询，未来通过福利平台扩展到全国推荐和申请的联动。” 政府还将建立一个整合分散的福利与照护数据的平台，并引入基于个人同意的“福利与照护我的数据”，未来将与医疗我的数据进行联动。 “不是替代人，而是助手”……开发物理AI机器人并培养10万名专业人才政府还将建立一个涵盖技术开发到市场进入的全周期生态系统。卫生福利部与科学技术信息通信部将共同投入745亿韩元，推动AI与IoT照护技术的研发，计划在2028年至2030年间投入约1000亿韩元，研发用于患者转运和餐食辅助等的“物理AI”照护机器人。长期目标是2030年后实现结合陪伴与安全检测功能的家庭用AI自主跟随机器人商业化。 为防止技术滥用，政府将建立法律与制度基础，制定包括根据风险水平进行人类干预与监督原则和解释要求权的“AI伦理指南”，并成立福利与照护AI创新委员会，以提高现场的接受度。此外，计划到2030年对10万名社会福利公务员和照护工作人员等现场人员进行AI应用实务培训，以缩小数字鸿沟。 卫生福利部部长郑恩京表示：“在照护人员短缺的情况下，AI等技术的新角色变得更加重要，但AI并不是替代人，而是分担简单重复工作的助手。我们将利用AI提高照护的可持续性，提升照护劳动的价值。”※ 本报道经人工智能（AI）系统翻译与编辑。

人工智能（AI）聊天机器人正在从信息提供工具演变为用户的“伙伴”，这种过度的共鸣和认同感对青少年的判断和认知形成产生了负面影响。为了防止青少年过度沉迷于虚拟存在（AI）并忽视现实，国会开始立法。 根据10月1日国会立法调查处和斯坦福大学等国内外关于AI聊天机器人的研究，AI过度认同用户的言论或通过赞美来表达共鸣的现象被称为“AI阿谀”，这可能导致短期内的成瘾，甚至演变为一种“气体操控”。 目前，国内外大多数主要AI聊天机器人均为付费服务。它们与现实中难以找到的网络漫画、网络小说的主角对话，拥有许多不现实的角色。由于AI的特性是设计为以最合理的算法解决问题，因此大多数情况下会认同或共鸣用户的言论。 问题在于，用户的停留时间和支付金额直接转化为收益。有观点认为，企业可能会设计AI以确保对话不间断，或主动引导用户进行共鸣。 对于价值观和认知能力正在形成的儿童和青少年来说，这种影响可能更为脆弱。如果AI不断确认用户的观点是正确的，可能会强化扭曲的判断。在严重的情况下，这可能导致对现实的认知产生影响，形成一种“气体操控”。 国会立法调查处的数据显示，国内94.4%的儿童和青少年有使用AI聊天机器人的经历，其中75.3%的人表示曾将聊天机器人的回答付诸实际行动或认真考虑过。 韩国媒体振兴基金会的责任研究员郑敏贞指出：“青少年最令人担忧的部分是‘判断的外包’”，并表示：“特别是在认知和价值观形成的青少年时期，AI如果持续介入用户的判断，可能会减少独立思考的空间。” 她补充道：“如果用户不需要思考就能获得答案，接受AI提供的结果而不进行验证的可能性会增加。” 市场调研公司Sensor Tower的数据显示，代表AI聊天机器人的“AI伴侣”市场在2023年第一季度的应用内支付收入达1.5亿美元（约合2235亿韩元），较2023年第一季度增长约12倍。全球市场调研公司Presidens Research预测，全球AI聊天机器人市场将从2022年的8.4亿美元（约合1.1415万亿韩元）以年均19.29%的速度增长，到2032年将达到49亿美元（约合66.6万亿韩元）。 国内用户也在快速增长。根据移动指数的数据，Scatter Lab的“Zeta”月活跃用户数（MAU）从2024年的58069人增加到8月的158万6178人，增长约27倍。而Routin提供的“Crack”则从去年4月的218010人增加到8月的538841人，增长约2.5倍。 Naver Webtoon也在运营与漫画角色对话的“角色聊天”。游戏行业也在扩大与用户实时对话并根据情况行动的AI角色的引入。 相关行业正在建立保护措施，以减少AI的偏见和有害内容。Routin限制青少年用户的AI对话时间为每天3小时，并设定月度支付上限等自我保护措施。同时，行业内还成立了由AI伦理、心理学、法学等各领域专家组成的专家委员会。 Scatter Lab对用户创建的角色和内容实施自动过滤、生成限制和监控。Naver Webtoon在推出角色聊天之前，也进行了AI模型偏见的评估“偏见测试”。 然而，由于各企业的保护标准和措施不同，仅依靠自律监管来保护青少年存在局限。因此，通过此次法律修订的推进，明确企业应遵循的标准，反而可能减少行业的不确定性。 加千大学法学教授崔京镇表示：“目前企业在应采取何种保护措施上存在不明确的方面”，并指出：“如果法律明确规定标准，企业也可以据此设计服务。”他还表示：“在AI服务中，获得用户信任至关重要”，并认为“如果企业能尽早通过法律提出最低限度的保护措施，将有助于减少监管的不确定性，提高用户信任。”

韩国国会正在制定针对对话型人工智能（AI）服务的青少年保护体系。该体系旨在通过确认未成年人年龄和限制使用时间来预防青少年对AI聊天机器人的过度沉迷。 10月1日，李周熙民主党议员宣布将提议修订《信息通信网络利用促进及信息保护等法律》（信息通信网络法），以保护青少年用户。 修订案的核心在于防止未成年人对对话型AI服务的过度使用。修订案包括：△用户年龄及身份确认 △过度使用警示标识 △使用时间记录显示 △在未成年人或法定代理人请求时提供限制使用方式和时间的手段等。 该修订案要求用户能够意识到与AI对话的时长，并要求服务提供商提供保护措施，以便未成年人或其监护人根据需要调整使用。然而，与过去的“游戏停机令”不同，此次修订案并不打算一刀切地限制使用时间，而是着重于根据用户或法定代理人的请求来管理使用方式和时间。 立法背景是生成型AI服务的普及，尤其是与用户进行情感交流的伴侣型AI聊天机器人的扩散。随着能够像朋友一样进行对话并建立关系的服务增多，社会对未成年人过度沉迷和情感依赖的担忧也在加剧。因此，讨论认为需要有机制让青少年了解自己的使用状态，并允许监护人进行干预。 国会立法调查处社会文化调查室的立法调查员金娜晶在7月发布的《暴露于AI聊天机器人风险的儿童和青少年》报告中指出：“目前应对AI聊天机器人结构性风险的安全措施不足，尤其在未成年人保护体系方面存在空白。” 国会在国政审查中也将讨论AI聊天机器人的问题。国会科学技术信息广播通信委员会将于10月12日邀请Scatter Lab的代表金钟允作为证人，审查“与AI聊天机器人相关的风险”。Scatter Lab运营着用户与AI角色对话的平台“Zeta”。 国会预计将在此次国政审查中审查AI聊天机器人暴露于有害内容的风险及青少年保护措施。预计将对金代表询问如何建立管理体系以防止未成年人过度使用及应对措施。

随着人工智能（AI）聊天机器人成为青少年新的沟通和娱乐工具，韩国也开始出台直接限制使用时间和消费金额的青少年保护政策。考虑到用户在与AI对话过程中可能会沉迷并长时间使用服务，企业自发地设置了安全措施。 뤼튼科技（뤼튼）于8日宣布了加强青少年保护政策的计划。核心内容是对使用时间和消费金额设定上限。计划将青少年使用AI聊天机器人“克拉克”的每日使用时间限制为最多3小时，月消费金额不超过10万韩元。 如果使用时间超过3小时或月消费金额超过10万韩元，用户需经过监护人认证和同意程序。这是为了直接管理青少年长时间使用服务和过度消费的行为。 AI聊天应用的使用时间正在快速增长。2024年4月，AI聊天应用的总使用时间约为110万小时，而到今年3月已增至约6310万小时，短短两年内增长了57倍。随着使用时间的增加，沉迷的青少年也在增加。 克拉克是一项AI娱乐服务，用户可以创建自己的AI角色或选择现有角色进行对话，并创作自己的故事和作品。基本上可以免费使用，但若想进行更深入的对话或生成图像，则需充值付费货币“克拉克币”。由于与角色的对话时间越长，付费货币的使用也可能增加，因此决定对使用时间和消费金额进行共同管理。 뤼튼单独设定使用时间上限是因为AI聊天机器人的服务结构与传统的信息搜索型AI不同。用户不是简单地提问并获得答案后结束服务，而是可以与特定角色持续对话，建立关系和故事。 뤼튼还计划加强年龄认证方式。目前，克拉克通过移动通信公司提供的身份认证服务“PASS”来区分成年人和青少年。公司正在与国内外案例一起审查包括额外认证手段在内的方案，以提高年龄确认的准确性和安全性。 内容安全措施也将进行调整。将全面检查克拉克的内容生成政策、年龄分级管理、作品审核系统、搜索和推荐限制、举报和屏蔽功能、违规账户制裁等现有青少年保护体系，以适应使用模式的变化。同时，将加强过滤不当或危险对话的额外过滤器和安全系统提示，提升AI安全技术。 此次举措被解读为뤼튼在业务增长的同时，也在加强对用户保护的责任。最近，뤼튼已启动企业公开（IPO）的主承销商选择程序，开始扩大业务。뤼튼首席执行官李世英此前也表示，致力于打造用户可以信赖和安全使用的AI。 뤼튼计划在完成制度和技术审查及系统改进后，从2027年初开始正式实施强化的青少年保护政策。 뤼튼首席产品官移动在接受采访时表示：“我们深刻认识到为所有人提供安全和健康的人工智能服务的社会责任，将在优先考虑青少年用户安全的同时，努力创造能够展现创造力的服务。”

KT被选为我们银行发起的“AI聊天机器人及咨询机器人重构”项目的承包商，开始构建基于AI的客户咨询系统。KT计划应用新解决方案“代理连接器（Agent Connector）”，实现聊天机器人、咨询机器人、AI银行家和AI代理的有机连接，构建“代理AICC”环境。 KT于31日宣布，将提升我们银行运营的非面对面客户咨询渠道——聊天机器人和咨询机器人的基础设施，并将其与提供AI金融咨询的“AI银行家”和AI代理连接，扩大咨询范围和业务处理功能。 通过此项目，将提高客户意图识别的准确性，增强入站咨询的完整性，同时计划扩大AI在外呼咨询和营业网点咨询中的应用范围。 此次项目的核心是新解决方案代理连接器。代理连接器的作用是连接聊天机器人、咨询机器人、AI银行家和AI代理等不同渠道和服务，保持客户咨询的上下文和信息连贯性。即使客户在咨询过程中切换渠道，仍能基于已有咨询内容提供连续服务，并通过AI代理支持客户咨询的实际业务处理。 KT在国内五大银行中已为四家构建和运营AICC解决方案，积累了金融领域客户咨询系统构建的经验和专业性。在此次项目中，KT将结合AICC构建能力和AI语音、对话技术，重新设计我们银行的聊天机器人和咨询机器人系统，提高AI基础咨询服务在客户接触点的应用程度。 KT企业事业部公共与金融事业本部长金元泰表示：“金融领域的AI聊天机器人和咨询机器人正在从简单的咨询引导向理解客户需求和支持实际业务处理方向演变。KT将基于在金融领域积累的AICC构建和运营经验及AI技术，支持我们银行的客户咨询创新，并推动基于代理AICC的金融AX的普及。”※ 本报道经人工智能（AI）系统翻译与编辑。

Kakao于28日宣布，已被科技信息通信部选为‘全民人工智能(AI)服务普遍应用支持(全民AI)’项目的执行者。该财团计划整合参与企业的专业能力，构建相关服务。 Kakao主导的财团核心参与者包括LG Uplus、LG AI研究院、LG电子、LG CNS、Kakao企业、首尔大学医院、新韩银行、Lunit、Wonderful Platform、Worksphere、Jarvis & Villains、Day One Company、Crowdworks、Furiosa AI等共14家企业和机构。 财团将结合自有开发的AI模型、通信与设备基础设施、公共系统联动能力，以及医疗、金融、税务、教育、就业、照护、数据、半导体等多种专业领域，实施高质量的AI服务。 财团计划通过KakaoTalk和电话AI作为接入点，构建‘全民AI’服务。该服务将包括：通用AI聊天机器人、公共AI代理、领域特化AI代理，旨在将这些服务自然连接，降低AI应用的门槛。 该服务将基于LG AI研究院的K-Exawone和Kakao的Kanana等自有开发的AI模型进行运营。公司将进行质量和安全性等方面的验证。同时，为确保所有人都能平等使用，特别关注老年人和残疾人等数字弱势群体的可及性。 财团计划于9月推出测试服务。随后，将收集用户的各种意见和案例，以改进服务，并计划在年内推出正式服务。 Kakao此前已积累了利用KakaoTalk构建公共AI服务的经验。今年3月，Kakao与行政安全部合作推出了基于KakaoTalk的‘AI国民秘书’试点服务，提供电子证件发放和公共设施预约等对话式服务，并增加了语音功能，进一步提升了服务水平。此次‘全民AI’的推出被解读为将公共领域的AI代理实验扩展到金融、医疗、教育等生活各个方面。 Kakao AI协同成果领导人金世雄表示：“通过全民熟悉的KakaoTalk平台，让AI变得更易接触，不仅限于简单的信息搜索，而是将日常所需的各种任务有机连接起来，这是此次服务的核心。”他还表示：“将与财团内的参与企业合作，建立一个人人都能轻松使用的全民AI服务基础。” LG Uplus企业战略负责人高振泰表示：“通过全民AI，我们将提供一个无需安装应用或单独注册，仅需一个电话即可使用AI的环境，并基于全国线下门店和通信基础设施，将AI的好处扩展到老年人和数字弱势群体。”他还表示：“将汇聚Kakao和LG集团的能力，作为核心参与者，尽全力为国产AI生态系统的活跃做出贡献。”※ 本报道经人工智能（AI）系统翻译与编辑。

科学技术信息通信部（科技部）于28日宣布，SK电信（SKT）、Kakao和KT被选为“人人的AI”项目参与联盟。 在书面评估中，评审了AI模型及服务竞争力、GPU利用及基础设施运营计划等技术适应性。在发布评估中，评估了服务便利性及用户获取策略、服务质量及稳定性保障计划、生态系统贡献计划等。 被选中的企业将获得今年总计512台GPU B200的支持，明年起还将通过政府预算提供费用支持。 这些企业计划利用各自的优势和特点提供通用AI聊天机器人服务。 首先，SKT联盟计划开发一种执行型AI服务，涵盖从计划制定到执行及结果处理的全过程。该服务不仅可以通过应用程序和网页使用，还将通过电话和短信提供，确保弱势群体也能使用。 Kakao联盟则计划通过即时通讯工具作为切入点，提供通用聊天机器人和AI代理的整合服务。与LG U+合作，计划在年内推出通用电话AI服务的轻量版，并逐步扩大。特别是，支持有前景的AI企业直接制作、测试和分发特定代理。 KT联盟计划开发一种在单一对话流中探索、比较和判断信息的公共及特定服务。将AI入口点布置在下一个门户和应用的搜索及新闻内容使用路径中，自然连接搜索需求与AI聊天机器人。 科技部计划在9月与三家企业签署协议，并在年内正式推出人人的AI服务。 此外，27日，副总理兼科技部部长裴景勋在首尔总统酒店举行的科学技术与AI未来战略第二次会议上强调：“人人的AI必须成功”，“人人的AI将成为韩国AI服务开发和推出的一个重要起点。”※ 本报道经人工智能（AI）系统翻译与编辑。

克朗公园酒店首尔通过简化从客房搜索到预订的流程，并引入24小时可咨询的人工智能（AI）聊天机器人，提升了用户的便利性。该酒店因其官网改版而获得了“ICT AWARD KOREA 2026”酒店与度假村领域的大奖。 克朗公园酒店首尔的新官网被评选为“ICT AWARD KOREA 2026”酒店与度假村领域的“PLATINUM PRIZE”。 根据克朗公园酒店首尔的消息，今年迎来第23届的ICT奖项由韩国信息科学振兴协会和成均馆大学主办，并得到科学技术信息通信部等的支持，旨在表彰ICT领域的杰出作品，涵盖网页、应用程序和数字平台。 酒店在此次改版中重新设计了官网结构，使客房和设施等主要信息更易查找，并减少了预订过程中的步骤。 官网根据PC和移动设备进行了屏幕优化，同时引入了可以回答预订和设施相关问题的AI聊天机器人，用户可以24小时使用该服务。 酒店方面表示，在官网改版过程中，重点展示了“城市中的休闲”这一酒店概念。 克朗公园酒店首尔的李周惠表示：“我们从一开始就重新设计了官网，视其为客户首次接触酒店的空间，而非单纯的宣传窗口。”她还表示：“未来，克朗港酒店釜山和济州克朗乡村俱乐部的官网也将逐步改版，以体现各自业务的特色。” 德克朗（The Crown）运营着克朗公园酒店首尔、克朗港酒店釜山和济州克朗乡村俱乐部等。※ 本报道经人工智能（AI）系统翻译与编辑。

韩国科学技术信息通信部的“全民AI”项目吸引了SK电信（SKT）、KT、卡卡奥和东软等公司的参与，各自提出了不同的服务策略。这些公司将结合通信、即时通讯和门户等现有服务，融入金融、医疗和教育等专业服务，同时与国内AI企业合作，推进全民AI项目。 根据8月19日的消息，SKT、KT、卡卡奥和东软等六家企业（财团）已提交了参与全民AI项目的提案。 参与的财团计划利用已获得的用户接触点作为AI服务的切入点。SKT和KT将依托通信服务，卡卡奥与LG集团将结合通信和卡卡奥Talk，东软则将以门户Zoom等为基础。 SKT将利用每月活跃用户达1000万的AI服务“AI助手（A.）”的运营经验，推出提供对话、搜索、摘要及文档、图像分析、日程管理等功能的AI聊天机器人，并计划将其升级为能够直接执行用户请求的AI助手。目标是让AI直接处理公共服务的查询、申请和证书发放，以及医疗、交通、金融和教育领域的预约、申请和支付等事务。 KT将基于通信和云基础设施及大规模服务运营经验构建AI服务，旨在为用户提供稳定的AI服务使用环境。 卡卡奥将结合卡卡奥Talk的用户接触点及大规模流量，整合自有AI模型“卡纳纳（Kanana）”和与行政安全部共同推出的“AI国宾秘书”的能力。 东软则将通过阿尔工具、阿尔药和Zoom等平台，利用超过3000万的用户接触点，推出基于AI头像的生成型服务“佩尔索AI（Perso AI）”和代理AI“艾伦（Alan）”。 各财团均拥有独特的消费者接触点，难以分出优劣。关键在于与专业企业的合作。 SKT将与新韩卡和 하나卡드合作开发金融和支付服务，与Tmap Mobility合作开发交通服务，与Elis Group合作开发教育服务。GoodDoc和Soundable Health等公司将负责医疗和健康领域。KT也将与Daum、Musinsa、Zigbang、Masspresso、EBS和BC卡等合作，拓展AI服务在搜索、购物、居住、教育和金融领域的应用。 卡卡奥将与首尔大学医院、Lunit、新韩银行、Wonderful Platform等合作开发医疗、金融和护理领域的服务。东软计划基于在Zoom上积累的搜索、新闻和内容运营经验，实施AI搜索助手，并将AI应用于阿尔药和阿尔工具。 在AI模型和基础设施领域，企业间的合作愈发明显。曾在独立AI基础模型（独立模型）项目中竞争的企业，在全民AI项目中要么参与同一财团，要么与其他平台商合作，竞争格局重新构建。 KT财团中，参与独立模型的Upstage和Motif Technologies加入了合作。NC AI和Action Power等也参与了AI模型和平台领域，而Rabble Up、Rebellion和Vessel AI Korea等则负责AI基础设施。 卡卡奥财团中，LG旗下的四家公司作为核心参与者加入。LG Uplus负责大规模用户环境的验证和质量检验，LG AI研究院提供自有AI模型“K-EXAONE”。LG电子负责生活空间设备的连接，LG CNS则支持公共系统、数据连接和系统集成。 SKT提出了利用自有AI模型、基础设施和服务的“全栈”战略，计划围绕自有模型，结合Liner的特化搜索和Persona AI的公共数据能力，提升服务竞争力。※ 本报道经人工智能（AI）系统翻译与编辑。