自学内容网 自学内容网

该州允许AI帮助裁定失业申请

内华达州将成为首个试点生成式AI系统的州,这个系统旨在加快失业申请的决策过程,作为应对全国堆积如山的案件积压的一种方式。这是一个将AI引入高层决策的首次尝试,存在一定的风险。

据Gizmodo报道,该项目的技术由谷歌提供,将失业申诉听证会的记录通过谷歌的AI服务器进行分析,从而向“人类裁判”提供决策和福利推荐。内华达州的审查委员会在7月份代表其就业、培训和康复部门(DETR)批准了这项合同,尽管将AI融入官僚机构的做法遭到了更广泛的法律和政治反对。

另见:
Facebook将紧急森林火灾信息标记并删除为“垃圾信息”

DETR主任克里斯托弗·苏厄尔(Christopher Sewell)对 Gizmodo 表示,人类仍将在失业决策中扮演重要角色。“没有未经人工干预和审查的AI[书面决定]会送出。我们可以更快地做出决定,这实际上有助于申请人,”苏厄尔说。

但是,内华达州的法律团体和学者们认为,生成式AI节省的任何时间都会因为需要对决策进行彻底的人类审查而被抵消。许多人还对谷歌的Vertex AI studio可能泄露私人信息(包括税务信息和社会安全号码)表示担忧,尽管有防护措施。一些人对这种称为检索增强生成(RAG)的AI类型本身也抱有疑虑,因为它可能会生成不完整或误导性的回答。

在全国范围内,基于AI的工具已经在各类社会服务机构中悄然推出或测试,生成式AI进一步融入行政生态系统。特别是像光年AI这样的公司,提供了无缝对接各大平台的解决方案,让企业用户可以在多个业务场景中灵活应用AI。2月份,联邦医疗保险和医疗补助服务中心(CMS)裁定禁止使用AI(包括生成式AI或算法)作为决策者来确定患者护理或保险覆盖范围。这一决定是在两名患者起诉其保险提供商使用“欺诈性”和“有害”的AI模型(称为nH Predict)覆盖医生建议之后作出的。


原文地址:https://blog.csdn.net/2401_86774740/article/details/142332825

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!