OpenAI 推 ChatGPT 会话控制功能却难敌模型迭代企业治理仍面临挑战OpenAI 推出的全新 ChatGPT 会话控制功能提升了可见性但专家表示模型的持续更新给企业的风险与合规团队带来了更大的挑战。图片来源JarTee/Shutterstock.com对于企业而言AI 治理始终处于不断追赶的状态。模型的更新迭代速度极快往往在治理框架经过实践检验之前就已过时。为了突破这一困境OpenAI 推出了“活跃会话Active sessions”功能。这一全新的 ChatGPT 安全特性使用户能够通过简洁的界面查看并退出一个或多个会话。目前该功能已在所有 ChatGPT 账户和工作区类型中上线涵盖个人工作区和托管工作区。专家认为对于目前拥有 10 亿月活跃用户的模型提供商 OpenAI 来说这是一项重要的进展。SOCRadar 首席信息安全官CISO恩萨尔·塞克尔Ensar Seker指出此前企业通常难以掌握用户的登录位置只能依靠重置密码或对账户进行全面操作来强制用户重新认证。他解释道精细的会话控制是一种更高效、干扰性更小的方法。从治理角度来看会话透明度的提升增强了问责制并有助于开展调查。全面掌握会话活动情况“活跃会话”功能使管理员能够查看 ChatGPT、Codex 和 API 平台上已知的浏览器和应用会话。具体而言他们可以查看设备和浏览器信息、大致位置、登录日期和时间、设备是否受信任以及会话是否处于活跃状态。用户可通过“设置”“安全”“活跃会话”访问该功能。他们能够退出特定会话并将设备从受信任服务中移除。此外用户还可以退出所有会话即结束所有设备上的会话不过这一操作可能需要长达 30 分钟才能完成。然而OpenAI 强调会话详情可能“不准确或不完整”且该功能存在一定局限性。它无法显示或管理已连接的应用程序或第三方应用会话、通过第三方服务进行的登录、Codex CLI 会话以及最近退出的会话。此外“活跃会话”功能无法与企业单点登录SSO关联的账户配合使用包括安全断言标记语言SAML和 OpenID ConnectOIDC。亡羊补牢犹未晚矣尽管“活跃会话”是一项重要的安全和治理进展但专家指出该功能较为基础而且姗姗来迟。博塞隆安全公司Beauceron Security的大卫·希普利David Shipley表示OpenAI 让管理员能够结束 ChatGPT 上的活跃会话其实很多平台早已具备这一功能。他们本应更早推出该功能但亡羊补牢犹未晚矣。他还提到从安全角度来看OpenAI 在监管 ChatGPT 方面还有待加强以防止其被威胁行为者用于托管恶意软件这是企业面临的最新威胁。SOCRadar 的塞克尔也指出企业多年来一直期望 SaaS 平台具备这种可见性和监督功能。它能让管理员和用户迅速识别未经授权的访问、终止闲置会话并降低账户在未被察觉的情况下被盗用的风险。迭代升级打乱治理节奏OpenAI 上周对 ChatGPT 应用程序和 API 中的 GPT - 5.5 Instant 进行了更新称此举是为了“改善响应风格和质量”。今年 5 月早些时候OpenAI 推出了 GPT - 5.5 Instant 以取代 GPT - 5.3 Instant并表示它“总体上更智能”产生幻觉的情况也更少。据 OpenAI 介绍此次更新使 GPT - 5.5 Instant“更易阅读在日常对话中更自然在实际帮助任务中的节奏更好减少了过长或要点过多的回复”。但即便有“活跃会话”这样的工具企业在面对似乎永不停歇的模型迭代更新时仍在治理方面苦苦挣扎。博塞隆的希普利表示这种情况根本无法持续“在一个非确定性系统中如何制定合适的测试计划”SOCRadar 的塞克尔指出许多组织在批准模型投入生产使用之前会进行安全、合规和业务验证测试。但他也提到当同一版本系列下的模型行为发生变化时之前记录的假设可能不再能完全反映实际性能。塞克尔表示AI 治理面临的最大挑战并非模型的采用而是模型的变化。大多数组织能够对模型进行一次性评估但很少有组织做好了持续评估模型随时间演变情况的准备。他指出这尤其给受监管行业带来了挑战因为在这些行业中可审计性、可重复性和变更管理至关重要。信息科技研究集团Info - Tech Research Group的咨询研究员瓦伦斯·豪登Valence Howden指出企业往往无法评估模型迭代对自身边界的影响更糟糕的是他们常常对此一无所知。他还提到虽然企业最初面临的最大挑战是使用何种 AI 模型、模型的功能以及模型的所有者但迭代更新会使情况变得更加复杂增加了企业对第三方实践和工具的依赖而企业往往缺乏相应的资源。豪登表示如果企业在更新被整合之前无法选择退出那么他们实际上是在与客户一起对更新进行红队测试。持续的挑战SOCRadar 的塞克尔表示如今的安全团队已不堪重负因为他们既要管理快速发展的模型、新功能和不断变化的行为又要确保合规性、风险管理和业务连续性。他说治理之所以困难是因为企业不再是在评估一个静态的产品而是在管理一项“不断发展的服务”其功能、集成和用户行为的变化速度远远超过了传统的安全审查周期。信息科技的豪登也表示认同他认为企业现有的治理实践尤其是问责制和风险实践存在不足。他说要突然擅长那些原本就不擅长的事情并非易事。而且企业往往追求速度和创新因此会忽视治理的约束甚至根本不想进行治理。企业应如何应对塞克尔建议企业最终应将 AI 模型视为动态系统而非固定的软件版本。他表示安全和治理计划应包括持续验证、监控和定期重新评估而不是仅仅依赖一次性的审批流程。企业还应明确对供应商变更管理的期望包括要求其在模型更新、行为变化以及对现有工作流程的潜在影响方面保持透明。塞克尔说有效的 AI 治理越来越依赖于对变更的可见性而不仅仅是对风险的可见性。关键词人工智能、安全、IT 领导力、风险管理、IT 治理