2024年将是实时扩散应用的一年。
1. Meta将于2024年第一季度发布LLaMA3。
DeWave的训练流程主要分为三个阶段:1）自监督编码器预训练（仅原始EEG脑磁波)，这一阶段会先训练一个脑电波自编码模型，输入原始EEG波形，通过重建实现自监督。这样可以提取有用的时域和频域特征。
DeWave使用了事件标记来将脑电波分割成单词级别的特征，这可能导致在没有标记的情况下无法准确地对脑电波进行分割和翻译。
3. 研究者认为，通过特定医学数据的培训和调整，有望提高LLM（大型语言模型）类聊天机器人的诊断准确性。