https://skyseraph.github.io/tags/gpt-4o/Recent content in GPT-4o on SkySeraphHugozh-CNMon, 13 May 2024 00:00:00 +0000https://skyseraph.github.io/series/ai-weekly/2024/001/Mon, 13 May 2024 00:00:00 +0000https://skyseraph.github.io/series/ai-weekly/2024/001/<blockquote> <p>每周精选 AI 领域最值得关注的进展、论文与工具。</p> </blockquote> <h2 id="本周焦点">本周焦点</h2> <h3 id="gpt-4o-正式发布">GPT-4o 正式发布</h3> <p>OpenAI 发布了新一代多模态旗舰模型 GPT-4o，支持实时语音、图像与文本的混合输入输出。推理速度相比 GPT-4 Turbo 提升 2x，成本降低 50%。</p> <p>值得关注的几个细节：</p> <ul> <li><strong>实时语音对话</strong>：延迟降至 232ms，接近人类对话水平</li> <li><strong>情绪感知</strong>：能从声音语调判断用户情绪</li> <li><strong>视觉理解</strong>：可实时分析摄像头画面</li> </ul> <h3 id="llama-3-开源表现超预期">Llama 3 开源表现超预期</h3> <p>Meta 发布 Llama 3（8B / 70B），在多个 benchmark 上超越同量级闭源模型，8B 版本在 MMLU 上达到 68.4%。</p> <h2 id="论文精选">论文精选</h2> <table> <thead> <tr> <th>论文</th> <th>核心贡献</th> </tr> </thead> <tbody> <tr> <td>KV Cache Quantization</td> <td>将 KV Cache 压缩至 2bit，长上下文推理节省 70% 显存</td> </tr> <tr> <td>LoRA+</td> <td>自适应学习率的 LoRA 变体，微调效果提升 2%</td> </tr> </tbody> </table> <h2 id="工具推荐">工具推荐</h2> <ul> <li><strong>Ollama 0.1.32</strong>：本地运行 LLM 的最佳工具，新增 Llama 3 支持</li> <li><strong>LangGraph</strong>：基于图的 Agent 编排框架，比 LangChain 更灵活</li> </ul> <h2 id="下周预告">下周预告</h2> <p>Google I/O 将于下周召开，Gemini 1.5 Pro 正式版和 Project Astra 值得重点关注。</p>