Rubbish Is All You Need

摘要

本文提出了垃圾变形器（Trash-former）—— 一种全新的网络架构， 完全基于随机垃圾回收机制与最大熵分解理论构建。传统模型深受 “意义” 的桎梏，而我们认为，智能并非对有效信号的提炼，而是对 无用冗杂信息的巧妙驾驭。本研究用多头垃圾碎片机制（MHD） 取 代注意力机制，在无意义 10K 基准数据集上取得了当前最优的实验 结果。实验证明，若将互联网视为垃圾填埋场而非图书馆，模型在 完全无知的极限状态下可实现 0 阶计算复杂度。