AI 决策失误谁买单？房产巨头百亿营收因算法崩塌
2021 年，西雅图上午九时，
初秋暖阳恰好倾洒在第二大道 1301 号写字楼的玻璃幕墙上，镀膜将刺目日光过滤为柔和的白炽光，令办公空间显得温馨而明亮。
"各位早安！"
Zillow 首席运营官（COO）Jeremy Wacksman，照例手持黑咖啡，微笑着向办公室内的同事们致意。
彼时新冠疫情尚未平息，美国市场经济由盛转衰，剧烈通胀引发的成本激增与消费低迷，让无数企业面临生死存亡的严峻挑战。
然而，Zillow 却是那栋租金飞涨的办公楼中，少数不仅正常运营且业绩逆势大增的企业。
Jeremy 坚信，这一切皆源于科技的进步。
在 Zillow Offers 部门的显示屏上，各类参数代码与市场波动实时联动，AI 系统即时反馈交易对手单及关键价位，自动生成盈利报价并执行下单。
疫情引发的房地产需求激增，让 Zillow 的不动产自动化交易业务实现了巨额盈利。
"Jeremy！有件事急需您过目"
"Jacob，保持冷静"
面对突然闯入且面色凝重的下属，Jeremy 半开玩笑地回应。
"眼下恐怕没什么比疫情更糟糕了——除非疫情突然消失。"
"我不确定疫情是否消失，先生……"
名为 Jacob 的下属毫无调侃之意。
"但我们的交易账户余额，正在消失。"
从时代浪潮跌落只需一瞬
Zillow 公司于 2006 年成立，由微软前 CEO Rich Barton 与前高管 Lloyd Frink 联手创办。
起初，Zillow 仅是一个房地产信息平台，致力于为用户提供房屋估值、房源检索及市场分析等服务。
不同于其他仅提供撮合交易与报价信息的平台，Zillow 内置的"Zestimate"产品，利用不动产交易大数据进行机器学习，为买卖双方提供实时房屋估价。
远超人工效率的预测精度与机器学习能力，让 Zestimate 赢得了市场双方的高度评价。
随着"Zestimate"数据库的扩充，交易报价愈发精准完善。
2015 年，Rich 与 Lloyd 决定亲自下场参与不动产交易，从平台方转型为市场交易方。
于是，由 Jeremy 执掌的 Zillow Offers 部门正式成立。
Zillow Offers 的核心任务，是依据 Zestimate 对市场趋势的分析，筛选出未来可能增值的房产信息，主动报价收购那些低于均价或具备盈利空间的资产。
购入房产后，Zillow 对其进行整修翻新，待价格上涨后再次推向市场出售以获取利润。
十多年前，基于机器学习大数据的交易模型尚属前沿领域。
由于市场缺乏流动性及对称高效的交易对手，Zillow Offers 为公司创造了丰厚利润，推动 Zillow 收入从 2015 年的约 6.5 亿美元跃升至 2019 年的约 27 亿美元，员工规模也扩张至近 4000 人。
鉴于市场反馈极佳，Zillow 高管层当即决定"ALL IN AI"，将 Zillow Offers 的商业模式确立为公司核心业务。
随后，Zillow 迎来了新冠疫情时代。
疫情初期，房地产市场受恐慌情绪影响，出现波动下跌。
但很快，华尔街商业巨头及相关人士敏锐察觉，联邦政府为维持经济将迅速实施"货币大放水"；同时疫情迫使人们减少外出、增加居家时间，这使得"拥有优质住所"显得尤为重要，进而推高了购房意愿。
于是，华尔街各路巨头低调行动，在尽量不阻碍房价缓慢下跌趋势的前提下，收购优质不动产资产。
Zestimate 精准捕捉到大量低价买盘入场的信号，Zillow Offers 迅速出击，收购了市面大量房产。
事实果然如此，2020 年随着拜登政府出台一系列经济刺激政策及众多公共场所封闭，美国房价迅速飙升，不到一年涨幅便超过惊人的 50%。
Zillow 借势这波涨幅赚取了巨额利润。
就在公司上下欢欣鼓舞，看着股价从 40 美元飙升至 120 美元，高层甚至开始盘算明年是将期权套现换取别墅豪宅还是豪华游艇时……华尔街开始高位抛售。
受疫情导致的行情扭曲影响，基于历史数据训练的 Zestimate 误判了市场走势，将交易对大幅增加误读为市场下一次暴涨的信号，从而大量自动报价，极短时间内为 Zillow 购入海量房产。
很快，Jeremy 等人的噩梦便开始了。
随着 2021 年美国疫苗接种进程推进，易感人群减少，解决严重通胀成为政府当务之急。
11 月 3 日，美联储在联邦公开市场委员会（FOMC）会议上宣布，将从当月起逐步缩减。
其每月 1200 亿美元的资产购买规模。
鲍威尔话音未落，整个不动产市场应声下跌，几乎所有房地产相关价格指数均开启触顶回落走势。
而 Zillow 因短时间内蒙受巨额损失，当月即宣布关闭 Zillow Offers 部门及相关业务，裁员 25%，并出售旗下囤积的 7000 多套房产，以避免破产结局。
AI 造成的损失谁来承担？
随着 AI 飞速发展，其迅速渗透至各行各业，但由此引发的归责与监管问题也日益凸显。
正如"自动驾驶撞伤路人，究竟归责于司机还是厂商"之类的问题。
在缺乏自然人作为责任主体时，AI 决策造成的损失应由谁承担？我们又该如何避免 AI 导致的追责困境？
2020 年发表于期刊《Public Administration Review》的论文《可问责的人工智能：让算法承担责任》，围绕人工智能（AI）算法在公共部门决策中的应用及其带来的问责挑战进行了研究。
Madalina 在论文中回顾了 AI 算法在公共部门决策的应用，引入 Bovens（2007）的问责制三阶段模型框架——即信息、解释和后果。
随后，Madalina 结合公共行政学、计算机科学及法学等多学科成果，探讨了 AI 算法的透明性、可解释性及其对公共问责的影响，并通过多个实际案例（如美国法院使用的 COMPAS 算法、面部识别技术的偏见等），展示了 AI 算法在公共部门的实际应用及带来的问责难题。
作为结论，Madalina 指出 AI 算法极易复制历史数据中的偏见（Bias），进而形成负面反馈循环，产生"自动化偏见"。
Madalina 强调 AI 决策流程的透明性与可解释性对确保算法问责至关重要，建议公共部门优先选择透明且可解释的模型，规避"黑箱"算法，并建立独立审计机制。
Zillow 的遭遇不仅是一家公司的失败故事，更是 AI 技术在商业决策中潜在风险的缩影。
这些案例时刻警示我们，在享受 AI 科技带来的便利与利润时，也必须直面其引发的危险与挑战。
"科技进步本身并非问题，问题在于我们如何运用它。"
人类既然无法回避 AI 时代的到来，那么如何让它更好地服务人类，将是时代的主旋律。
--END--
作者 | 张子罕
学术顾问 | WGZ
排版 | lihan
图源 | 网络