加州立法草案引发硅谷科技圈内部辩论
近期，围绕加州议会提出的《前沿人工智能模型安全可靠创新法》（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act，简称SB 1047），硅谷科技界内部已陷入激烈辩论。这封由计算机领域功勋学者教授联名签署的公开信，支持了加州政府对人工智能（AI）系统的监管提案，其主要担忧在于AI系统的潜在风险与缺乏适当监管。
这些学者包括“人工智能之父”杰弗里・辛顿（Geoffrey Hinton）、“深度学习之父”约书亚・本吉奥（Yoshua Bengio）、加州伯克利大学计算机科学教授斯图亚特・罗塞尔（Stuart Russell）以及互联网立法专家、哈佛大学法学教授劳伦斯・赖斯格（Lawrence Lessig）。他们的签名彰显了对AI技术安全性的关注，以及对监管措施的必要性，认为AI系统若缺乏充分的重视与监管，可能引发严重风险。
法案SB 1047要求加州境内的AI公司，在训练大模型时需进行严格的安全测试，以防止潜在危险功能的出现，并实施完善的安全措施，以降低灾难性风险发生的可能性。这项法案已经得到了加州政府多数议员的支持，反映出广泛的社会共识，即对AI技术进行立法监管的重要性。
然而，法案的提出引发了硅谷科技界的强烈反应。一些专家和学者，如斯坦福计算机教授、视觉识别专家李飞飞，对法案持反对意见。她担忧法案的实施将对AI领域的创新造成负面影响，特别是对那些与科技巨头竞争处于不利地位的领域，如公共领域、学术研究和小型科技企业。李飞飞强调，监管政策应支持开源开发，并提出合理、统一的规则，而现有法案并未达到这一标准。
同时，李飞飞和斯坦福计算机科学教授吴恩达也指出，法案中的某些条款可能给AI研发者带来困扰，难以适应。尽管如此，他们仍强调对AI治理的支持，并希望与加州立法者合作，共同制定更合理的监管立法。
值得注意的是，加州并非唯一考虑监管AI的州。科罗拉多州和犹他州已通过了类似的监管法律，但它们的监管范围相对有限。相比之下，SB 1047法案对AI行业的监管力度更大，对多数硅谷AI公司和创投行业构成了直接影响。
尽管存在争议，但SB 1047法案在加州立法过程中的进展顺利，获得了相当多的支持。根据数据，超过77%的加州选民支持AI立法，55%的选民甚至强烈支持对AI公司进行强制安全检测。法案的目标主要是针对那些在AI大模型研发投入超过1亿美元的公司，涵盖了谷歌、Meta、OpenAI和Anthropic等知名AI领域企业。
此外，AI监管已成为全美范围内的热点话题。美国各地已有400多个与AI相关的法案正在制定中，涉及知识产权保护、AI色情内容的阻止、儿童数据保护等多个方面。加州的SB 1047法案因其严格的监管范围和影响力，对AI行业产生了深远影响。
在监管对象层面，硅谷的AI公司和创投行业普遍对SB 1047法案表达了反对意见，担忧它可能导致AI创新的衰退。微软、Meta、谷歌等大型AI企业也通过游说努力试图修改或阻止法案在加州议会的通过。微软指出，监管框架尚未成熟，过早通过法律可能会误导结果并限制行业资源投入研发。知名AI创业公司Anthropic则建议法案应聚焦于让AI公司为造成的灾难承担法律责任，而非规定具体的预防措施。
AI行业对监管法案的主要担忧集中在要求开发者提供合理可靠的保证，以确保AI大模型不会带来不合理风险，以及可能对AI技术的误用，比如制造大规模杀伤性武器或对关键基础设施造成损害。根据法案规定，加州司法部有权起诉未能制定适当安全措施导致灾难后果的AI公司。灾难后果包括可能开发出用于生化、辐射或核武器的技术，以及对关键基础设施造成超过5亿美元的损失。
在AI行业内部，支持与反对监管的论点交织。旧金山作为AI创新的中心，其经济高度依赖科技行业，但近年来面临着严重的治安问题和科技公司外迁的挑战。AI行业的增长为旧金山提供了新的活力，但SB 1047法案的提出引发了一些担忧，认为它可能会扼杀新兴的AI产业，损害旧金山脆弱的科技经济基础。
硅谷最具影响力的风投机构安德森・霍洛维茨（Andreessen Horowitz）和创业训练营Y Combinator的CEO陈嘉兴（Garry Tan）都对加州政府的政策提出了批评，特别是对SB 1047法案可能对AI人才吸引和公司留住能力产生的负面影响表示担忧。另一方面，非营利组织Encode Justice指出，监管的目的是为了保护消费者，而非压制创新，且大部分创业公司不会受到法案的影响。
尽管面临来自硅谷科技界的反对声音，但SB 1047法案在加州立法过程中的通过前景似乎较为乐观。支持者认为，这不会扼杀AI行业的创新，而是为了促进安全、负责任的发展。法案提出人斯科特・维纳强调，AI监管法案的批评者夸大其影响，实际上，AI行业在加州乃至全球仍保持着强劲的增长势头。他认为，AI监管是必要的，以确保技术的健康发展和社会福祉。
总之，围绕SB 1047法案的讨论反映了AI行业内部对于监管的复杂情感——既有对安全性的迫切需求，也有对创新和发展的担忧。加州作为AI创新的中心，其立法决策不仅影响本地产业，还对全美乃至全球AI政策制定产生影响。未来的走向将取决于平衡监管与创新的政策制定者如何找到合适的路径。
