微软CEO Satya Nadella 称AI模型需要紧急制动机制

微软CEO Satya Nadella 在X发文称，AI模型需要类似紧急制动的急停机制，假设模型从一开始可能已被劫持并需要被遏制。他主张把模型本身与编排其动作的harness分离、外置控制与安全措施，并为每次有意义的模型动作留下防篡改的可读证据，使授权人员能在执行中途暂停或关闭模型。