[ad_1]
密码简要报告 — 情报界 3 月份发布的 2023 年度威胁评估发现，中国共产党对美国国家安全构成“最严重的威胁”，特别是在其对网络和量子技术的积极追求方面。 但仅仅几个月后，随着越来越多与人工智能相关的威胁 — — 这些威胁并不总是来自北京 — — 一些现在在私营部门工作的美国前领导人看到人工智能构成的威胁范围正在扩大。
“是的，中国是最重要的，”美国网络安全和基础设施安全局前局长克里斯·克雷布斯周三在网络倡议组织峰会上发表讲话时表示。 “但它几乎被人工智能风险所取代。”
“几乎每个组织，无论是有意还是无意， [are] 集成人工智能工作流程、流程、 [and] 业务运营，”他说，特别指的是软件工具，例如人工智能驱动的聊天机器人，例如 聊天GPT 和 谷歌吟游诗人。
然而，令人担忧的是如何使用这些数据。
经过利用神经网络（一组互连单元或节点的集合）的大型语言模型 (LLM) 的培训，公司现在正在竞相嵌入这些工具，以帮助客户处理从预订酒店到合成会议记录等各种事务。 但正如安全专家在周三的峰会上指出的那样，用户和技术之间的共生关系的本质可能会带来越来越大的风险，两者互动越多，他们解释说，考虑到法学硕士如何利用不断增加的数据来增强这些网络并改善搜索结果，即使看似无害的查询也可能与更高的风险相关。
“有一线工作人员……正在外出使用 聊天GPT 帮助他们提高效率，”克雷布斯指出。 “但不幸的是，我们看到很多专有、敏感或其他机密信息被插入公共法学硕士。 对于其中一些组织来说，这将是一个真正的长期问题。”
密码简报举办有关国家安全问题的专家级简报会 订户+会员 有助于提供有关当今国家安全问题及其对商业意义的背景信息。 将您的状态升级至 订阅者+ 今天。
在最近发布的一份报告中 网络天堂一家总部位于加利福尼亚州的网络安全公司，作者确定，在其评估的员工中，超过十分之一的人曾使用过 聊天GPT 在工作场所，近 9% 的人将公司数据粘贴到聊天机器人中。
在一个这样的案例中，一位高管输入了公司的 2023 年战略文件，然后要求聊天机器人将信息重写为 微软幻灯片软件 甲板。 在另一个例子中，医生输入了病人的姓名和医疗信息，用它来写一封给病人保险公司的信。 未经授权的第三方， 网络天堂 解释说，然后只需询问聊天机器人就可以确定敏感的公司战略或特权病史。
在更广泛的范围内，美国的对手和犯罪实体也可能利用该技术来收集有关关键基础设施的信息，例如，这可能会提高即将到来的网络攻击的效率。
“我什至认为我们还没有真正意识到这些交互造成的数据泄露 [could mean]，”克雷布斯说。
正在寻找一种方法来在网络和技术方面领先一周？ 报名参加 网络倡议小组 周日时事通讯可快速了解最大的网络和科技头条新闻，并为未来一周做好准备。 报名 今天。
关于这一现象的轶事报道似乎越来越多。 因此，公司正在发布指导方针，旨在防止仅使用人工智能工具就可能发生的机密信息处理不当的情况。
“挑战来自于护栏的角度，”克雷布斯补充道。 “现在没有太多选择。”
开放人工智能 除非用户选择“选择退出”，否则将保留数据。 但几家大公司，包括 摩根大通 和 威瑞森公司，已经阻止了对该技术的访问，而亚马逊等其他公司则向员工发出警告，禁止他们输入公司数据。
与此同时，人工智能搜索的使用出现了爆炸性增长。
聊天GPT，由研究和部署公司创建 开放人工智能该公司表示，预计在推出后不久，每月活跃用户数将超过 1 亿，目前有 300 多个应用程序以及“全球数以万计的开发者”在使用该技术。
“我们目前平均每天产生 45 亿字，并继续扩大生产流量。”
在公共部门，聊天机器人长期以来一直被使用，特别是在州和地方政府中，作为公共界面来解答从医疗保健索赔到租金援助再到 Covid-19 救济基金等各种问题，像洛杉矶这样的城市正在寻求进一步拥抱人工智能- 改善官僚职能的技术，例如支付停车罚单和便利选民登记。
官员们经常称赞人工智能作为一种提高效率的手段的潜力，技术本身也是如此。
事实上，当直接问到“如何 聊天GPT 改变人们与政府互动的方式？” 它给出了一份清单：1.) 更方便的沟通，2.) 打破语言障碍，3.) 无需长时间等待即可解决问题，4.) 自动化日常功能，5.) 创建个性化指导，以及 6 .) 自我完善。 但聊天机器人也指出，迫在眉睫的透明度、准确性和黑客漏洞是其更广泛集成的潜在陷阱。
软件和信息行业协会全球公共政策和政府事务高级副总裁 Paul Lekas 指出：“当我们向大量人员提供这些法学硕士时，数据就可能被操纵。” “数据之上的算法可以通过调整来实现某种手段。 过去几年进行的大量研究表明，法学硕士本质上可以传播错误信息和常见错误，并且更容易产生错误信息。”
“我对形势感到担忧，”他在周三的网络倡议集团峰会上补充道。
会议上的其他人也表达了更广泛的担忧。
“我什至可能比你走得更远，”前国家安全局总法律顾问、莱卡斯发表讲话的网络虚假信息会议主持人格伦·格斯特尔 (Glenn Gerstell) 说。 “我认为，技术发展……与地缘政治和社会形势相结合，意味着我们可能正处于一个充满可能影响民主的非常非常不稳定因素的时期。”
更新于 6/29
阅读更多专家驱动的国家安全见解、观点和分析： 密码简介 因为国家安全是每个人的事
[ad_2]
Source link
