AI重点
- 纳德拉指出企业使用AI会付出金钱与知识两种代价。
- 他以反向资讯悖论说明，越让模型有用越可能外流企业知识。
- 为防止资料外泄，纳德拉主张建立信任界线与专用运算环境。
微软执行长纳德拉11日在X平台指出，公司使用AI时，支付了两次费用，一次以金钱付款、另一次代价更为高昂，是企业知识。这篇贴文广为流传，至今观看人数已突破610万人次。
这是什么意思？纳德拉以1962年诺贝尔经济学得主主艾罗（Kenneth J. Arrow），提出的「资讯悖论」（information paradox）来解释。资讯卖家面临难题，为了说服买方采购，必须把资讯内容透露给买方，但这么做等于把资讯免费送给对方，这个问题促成专利权与智财权制度的诞生。
但AI翻转了上述局面，如今问题落在买方身上。为了要让模型有用，必须告诉模型业务如何运作，要让模型运作愈好，就得透露愈多，纳德拉称之为「反向资讯悖论」（Reverse Information Paradox）。
科技网站GPU Solution报导，企业外流的资讯包括哪些？首先，提示词：团队的提问揭露工作内容。再来，修正：每次有人告诉模型，这个产业不是这样运作，修正知识就会变成数据。第三，评估机制（evals）：即用来衡量AI表现的内部测试，也就是企业对品质的定义。纳德拉指出，模型能从这些数位轨迹中学习。
打个比方，这就像是聘请睿智的顾问，他不只以小时计费，同时还把从企业学到的一切写在笔记本上。等聘雇期结束，笔记本也被顾问带走，明天他又能跟任何人签约。对此，纳德拉说：「消费智慧之时，也在创造智慧，你创造的东西，应属于你。」
数据分析软体商Palantir执行长卡普（Alex Karp）也说，科技客户想要控制运算内容、模型、资料栈等，他们想确有生产手段，不希望转移给别人。
那么该怎么办呢？纳德拉认为需要「信任界线」（trust boundary），在界线之内，公司资料、修正、微调模型会累积，且未经同意不得外泄。合约条款是书面界线，在单一地区的资料中心内，以专用伺服器运作自家模型与权重，则是实际界线。