MITRE-Harris Poll

AI监管需要双管齐下：组件保证与人类问责

T. Charles Clancy 提出了一种双层AI监管方法，区分了作为工程系统组件的AI与具有类人行为的大型语言模型（LLM）。对于AI组件，现有的行业监管机构应侧重于通过测试和验证来保证其可靠性。对于LLM，重点应放在对AI增强行为的人类问责，以及防止恶意使用，无论是人类指挥AI，还是AI系统无意中发展出危险的子目标。Clancy 强调了公众对AI潜在滥用问题的担忧，并引用了偏见和虚假法律案例的例子。