克劳德·香农定义的信息熵概念，将消息的概率与其信息内容相关联，其中不太可能的消息承载更多信息。这一原理是数据压缩的基础，表明更频繁的符号应分配更短的代码，而不太频繁的符号应分配更长的代码，以最小化平均比特长度。更高的熵表明一个更随机、更不可预测的系统，使其更难压缩。 AI
排序理由 解释了信息论和数据压缩中的一个基本概念。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
信息熵解释：概率、压缩和可预测性
报道来源 [2]
-
信息量
如果你看到这里，香农那个著名公式也就不再像一个凭空冒出来的数学定义了。 假设一条消息出现的概率是p，那么它的信息量就是-log₂(p)。 根据这条曲线，发生概率越小，信息量越大；发生概率越大，信息量越小。 用刚才那套话说就是：越容易被预测出来的东西，信息量越小。越难以预测的东西，信息量越大。 而从压缩的角度看，这个公式问的其实是： 为了把这条消息从所有可能性里区分出来，理论上至少需要多少 bit？ 为了把这条消息从所有可能性里区分出来，理论上至少需要多少 bit？ 这就是香农最厉害的地方。他把「预测不了的部分」，变成了可以计算的东西。 但问题在于，现实生
-
关闭“黄金杠杆交易”渠道 银行收紧个人贵金属业务风控阀门
6月以来，包括交通银行、招商银行、工商银行在内的多家国有大行、股份制银行密集“踩刹车”——宣布将于7月停办代理上海黄金交易所个人贵金属交易业务。在业内人士看来，这是银行主动进行风险管理的举措，通过提前压缩高风险投机业务，防范极端行情下的客户违约风险、声誉风险，同时帮助投资者规避贵金属价格波动带来的资金损失。（中证网）