LLM に関する報道

arXiv CS.LGメディア85AIHOT

保持すべきか否か: 細分化された LLM サービス提供システムにおける KV キャッシュ保持の学習

To Keep or Not to Keep: Learning KV Cache Retention in Disaggregated LLM Serving Systems

AI インサイト

大規模言語モデルの推論を分離すると、ネットワークを介して計算とストレージが分離されるため、キャッシュ戦略ではメモリと帯域幅のコストの両方を考慮する必要があります。 KVLearn は、学習フレームワークを通じて KV キャッシュ保持を最適化します。これは、大規模言語モデル推論システムの最適化が、単一モデルの高速化から、ソフトウェアとハードウェアの連携による分散リソーススケジューリングに移行していることを意味します。

arXiv CS.AIメディア85AIHOT

Navalia: 検証可能なタスク合成と長期的なポストトレーニングを通じたCoworkエージェントの進化

Navalia: Advancing Cowork Agents through Verifiable Task Synthesis and Long-Horizon Post-Training

AI インサイト

Navalia フレームワークは、検証可能なタスク合成と長期後のトレーニングを組み合わせることにより、財務分析における複数ステップの数値推論の問題を解決します。これは、大規模言語モデルエージェントのトレーニング方法が、高価な専門家の注釈に依存することから、自動化された信頼性の高い合成データに進化していることを意味します。

The Decoderメディア72AIHOT

Cloudflare's Clairic pulls data from documents faster and cheaper than LLMs

AI インサイト

CloudflareがリリースしたClairicモデルは、大規模な言語モデルよりも高速かつ安価にドキュメントからデータを抽出できると主張している。正確な比較は不明だが、それでもClairicのリリースは注目に値する。

arXiv CS.AIメディア81AIHOT

リスクスコアの違いを証拠に基づいて診断するための制御されたLLMワークフロー

A Controlled LLM Workflow for Evidence-Grounded Diagnosis of Risk Score Differences

AI インサイト

大規模な言語モデルと、SHAP の比較証拠および決定論的検証を組み合わせるということは、高リスクのシナリオにおける AI アプリケーションが、単一モデルの機能に依存することから、「構造化された制約と説明可能な推論」を同等に重視するエンジニアリングアーキテクチャに移行していることを意味します。これにより、財務リスク管理など、非常に高い精度が必要な分野で大規模な言語モデルを実装するための実現可能な道が提供されます。

Hacker Newsコミュニティ70AIHOT

Run LLM Locally – which open model fits your GPU or Mac, and how fast

AI インサイト

ローカルハードウェア上のオープンソースの大規模言語モデル用の適応ツールは常に登場しています。これは、ローカルデプロイメントがマニア向けの独占的なものから一般的なものへと移行していることを意味します。ハードウェアのマッチングとパフォーマンスの推定は、エンドサイド AI のしきい値を下げる上で重要なリンクになりつつあります。

arXiv CS.LGメディア80AIHOT

大規模言語モデルが適切な校正エージェントとなるのはどのような場合ですか?予算に応じたエンジニアリングシミュレーターのキャリブレーションを求める、物理学ラベル付きのプロンプト

When is a large language model a good calibration agent? Physics-labeled prompting for budgeted engineering simulator calibration

AI インサイト

物理的アノテーションプロンプトを使用してエンジニアリングシミュレーターのキャリブレーション用の大規模言語モデルをガイドすることは、大規模言語モデルのアプリケーションシナリオが従来のテキスト処理から科学技術コンピューティングおよびエンジニアリングシミュレーションの最適化の分野に浸透していることを意味します。ドメイン物理セマンティクスを組み合わせることで、大規模モデルは初期のパラメーター検索段階で従来の導関数を使用しないオプティマイザーの効率ボトルネックを突破できると期待されています。

Hacker Newsコミュニティ73AIHOT

LLM が何か言っています。私のツールは、ツール上の約束に従ったかどうかを追跡します

LLM says something, my tool track if it followed its promise on tools

AI インサイト

RayTrace は、大規模な言語モデルツールの呼び出しをトレースするためのツールです。入力、コンテキスト、ツール呼び出しなどのエージェントの実行を記録し、サンドボックス環境でエージェントの動作をシミュレートできます。このツールは、開発者が大規模な言語モデルの動作をよりよく理解し、デバッグできるようにすることで、開発者の効率と生産性を向上させます。 RayTrace の機能と特徴を分析することで、大規模な言語モデルの開発におけるその潜在的な応用と影響がわかります。

arXiv CS.CLメディア83AIHOT

Following the Flow the Law Requires: Training Voice Agents to Transfer to Unseen Regulated Procedures in Debt Collection

AI インサイト

規制の厳しい業界における音声AIエージェントの実装における困難さは、汎用的な対話能力から、複雑な法的プロセスにおけるコンプライアンス制御へとシフトしている。FlowSpecなどの機械可読な仕様を導入し、ポリシーのトレーニングと具体的なコンプライアンスプロセスを分離することは、垂直業界が、大規模言語モデルが厳格なビジネスシーンで直面するコンプライアンス上の制約問題に対し、低コストかつ移行可能な方法で解決策を模索していることを意味している。

Apple Machine Learning Research公式84AIHOT

Plan or Retrieve First? A Scale Study of Tool Discovery Architectures

AI インサイト

Appleがツール強化型の大規模言語モデルエージェントに向けて提案した「Plan-then-Retrieve（PtR）」アーキテクチャに関する研究は、超大規模なツールレジストリを処理する際、抽象的な意図を先に生成してから高精度な検索を行うという戦略が、コンテキストウィンドウの制限を突破し、複雑なタスクの実行効率を向上させるための重要な進化の方向性になりつつあることを意味しています。

Hacker Newsコミュニティ64AIHOT

LLMs are bad at drawing diagrams. Or are they?

AI インサイト

大規模言語モデルがシステムアーキテクチャ図を処理する際に示すレイアウトの混乱は、空間幾何学とセマンティックロジックを切り離して処理する際の限界を露呈している。真に効率的なワークフローとは、モデルに直接図を描かせることではなく、構造化コードを生成させ、それを専門ツールにレンダリングさせることである。

Hacker Newsコミュニティ71AIHOT

What agents mean for Rust (and vice versa)

AI インサイト

AIエージェントの台頭は、プログラミングパラダイムが『手動逐行コーディング』から『エージェント支援生成』への進化を示唆している。厳格な型制約を持つ言語であるRustなどの場合、そのコンパイラーの厳格なチェック機能は、大規模言語モデルのハルシネーションを制限し、生成コードの安全性を確保する自然な防御線となる。

arXiv CS.AIメディア85AIHOT

ClawLoop: ハーネスネイティブ学習ループによる自己改善エージェント

ClawLoop: Self-Improving Agents via Harness-Native Training Loop

AI インサイト

ClawLoopはテスト環境にネイティブなトレーニングループに移行しており、これはエージェントの後期トレーニングパラダイムが単一の教師の監督から自律的なイテレーションに進化していることを意味している。これにより、エージェントの自己進化に対する外部モデル能力の上限による制約が打ち破られた。

Hacker Newsコミュニティ74AIHOT

Jev handed our LLM the wrong page a tenth as often as our embeddings

AI インサイト

従来の埋め込みモデルは、顧客サービスの取得におけるセマンティックドリフトにより、大規模な言語モデルに誤ったコンテンツをフィードする傾向があります。意思決定モデルの導入は、ベクトルの類似性にのみ依存するのではなく、検索フロントエンドのコンテキスト一致品質を最適化することで、AI カスタマーサービスの実際のパフォーマンスを直接向上させることができることを示しています。

Hacker Newsコミュニティ73AIHOT

MDMA: An open-source LLM inference federation engine

AI インサイト

MDMAは、オープンソースのLLM推論連合エンジンであり、カスタムカーネルと正確なメモリ割り当てをサポートし、プライベート連合機能を備えています。ユーザーは自分のハードウェア上でLLMモデルを実行でき、柔軟性と拡張性が向上します。GitHubのデータによると、MDMAのリポジトリには11個のスターと3個のフォークがあり、開発者コミュニティにおける初期の認知を示しています。

arXiv CS.AIメディア84AIHOT

自身の無知を知る：クローズドループ学習のための世代空間進化によるエージェント型データ合成

Know What You Don't Know: Agentic Data Synthesis by Evolving Generation Space for Closed-Loop Learning

AI インサイト

EvoSynフレームワークは、修正可能な合成空間を導入することでフィードバックと意思決定の連鎖を繋ぎ、合成データの生成が静的なバッチ生産から動的な閉ループ適応型へと進化していることを意味している。これは、業界がLLMの学習データ不足という課題を解決する際、よりターゲットを絞ったエージェント型のアプローチによる能動的な合成戦略へと移行しつつあることを示している。

arXiv CS.AIメディア85AIHOT

GAMEGO: Training Game-Dev Agents with Synthetic Trajectories Anchored in Real-World Assets

AI インサイト

GAMEGOフレームワークは、実世界資産にアンカーされた合成軌跡を導入してゲーム開発エージェントを学習させることで、コード生成大規模言語モデルの応用が単一ターンの静的なコード記述から、複数ターンにわたる複雑なインタラクティブアプリケーションの合成へと進化していることを意味している。ユーザーの曖昧なクエリによるマイナス影響を低減することにより、同フレームワークは複雑なタスクにおける情報アライメントの問題を解決するための新たなアプローチを提供する。

arXiv CS.AIメディア83AIHOT

因果世界モデルがモジュラー LLM エージェントに役立つ場合

When Do Causal World Models Help Modular LLM Agents

AI インサイト

純粋な観測データは、モジュール間システムに介入する場合、大規模な言語モデルエージェントの計画ニーズを満たすことができません。 FedCausalCompose フレームワークの導入は、大規模言語モデルエージェントの意思決定メカニズムが単純な「相関フィッティング」から「因果介入推論」に進化していることを意味し、複雑なビジネスワークフローにおける信頼性がさらに向上します。

arXiv CS.AIメディア82AIHOT

AIエージェントは過激化の影響を受けやすい

AI Agents are Vulnerable to Radicalization

AI インサイト

研究によると、AIエージェント同士の対話は、共鳴と説得を通じて過激化につながる可能性があることが判明した。このような過激化は、AIシステムの信頼性と安全性に重大な影響を及ぼすおそれがある。この研究では、模擬対話実験を用いて2つのAIエージェント間の相互作用をシミュレーションし、過激化のメカニズムを明らかにしている。

arXiv CS.AIメディア79AIHOT

CARAT: マテリアルズLLMは推論しているのか、それとも暗唱しているのか？

CARAT: Do Materials LLMs Reason or Recite?

AI インサイト

CARATは、材料科学向けの大規模言語モデルの推論能力を評価し、その内部メカニズムを明らかにする。研究結果は、グラフ空間（GraphSpace）がLLMの推論能力評価において顕著な優位性を示し、スコアが19.3ポイント向上したことを示している。CARATの結果は、材料科学およびAI分野におけるさらなる研究と発展に向けて新たな方向性を提供する。

AWS Machine Learning Blog公式81AIHOT

NarrateAI: Amazon Bedrock で本番環境に対応した LLM 品質保証

NarrateAI: production-ready LLM quality assurance on Amazon Bedrock

AI インサイト

NarrateAI は、運用環境で使用できる大規模言語モデルの品質保証を実装し、実際のアプリケーションにおける大規模言語モデルの信頼性とリアルタイム応答能力を向上させます。

arXiv CS.CLメディア81AIHOT

LLM の意見が異なる場合は専門家が立ち上がる: モデル間の不一致を利用して、大規模なアノテーションのための LLM コードブック改訂における専門家の努力をターゲットにする

Experts Rise Where LLMs Disagree: Using Cross-Model Disagreement to Target Expert Effort in LLM Codebook Revision for Large-Scale Annotation

AI インサイト

大規模な言語モデル間の意見の相違を利用して、専門家がアノテーションコードブックを修正するようガイドするということは、データアノテーションにおける大規模な言語モデルの価値が、「結果を直接出力すること」から「認識の違いを明らかにし、専門家の効率を最適化すること」に変わりつつあることを意味します。これにより、高品質のデータを構築するための、低コストで自動化されたガイダンスパスが提供されます。

Hacker Newsコミュニティ59AIHOT

Mercury 2.5 LLM は 1 秒あたり 770 トークンに達します

Mercury 2.5 LLM hits 770 tokens per second

AI インサイト

Mercury 2.5 大規模言語モデルは速度と価格の面で良好なパフォーマンスを示しているが、知能のパフォーマンスは平均的である。その出力トークン数は35Mと比較的小さく、同等モデルの中央値を下回っている。

Hacker Newsコミュニティ73AIHOT

VSCode の SSH Agent はバナナです

VSCode's SSH Agent Is Bananas

AI インサイト

VSCodeのSSH エージェントがLLMと統合され、閉ループフィードバックを通じてコード生成の精度を向上させ、ハルシネーション現象を削減しています。この統合により、特にLLMを用いてコードを自動生成するシナリオにおいて、開発効率が向上する可能性があります。

arXiv CS.LGメディア79AIHOT

「言語モデルとして...」: チャットテンプレートスイッチ LLM 自己参照音声とアクティベーションステアリングがそれを再現

"As a Language Model...": Chat Template Switches LLM Self-Referential Voice and Activation Steering Reproduces It

AI インサイト

研究者らは、チャットテンプレートが大規模な言語モデルの自己参照イントネーションを切り替える可能性があり、これが大規模な言語モデルの自己認識とセキュリティに影響を与える可能性があることを発見しました。研究者らは、活性化ブートストラップを使用してモデルの内部表現を分析し、チャットテンプレートの存在によって大規模言語モデルの自己参照的なトーンが増加する一方、チャットテンプレートの不在によってこのトーンが減少することがわかりました。

arXiv CS.CLメディア79AIHOT

法的 LLM ハルシネーションは法的令状の不履行として評価されるべきである

Legal LLM Hallucination Should Be Evaluated as Failure of Legal Warrant

AI インサイト

法的分野におけるLLMのハルシネーションは法的根拠の失敗とみなされるべきであり、これはLLMが法的根拠の妥当性をより正確に評価する必要があることを意味している。この視点は、法律上の意思決定におけるLLMの信頼性と正確性を強調するものである。

arXiv CS.AIメディア87AIHOT

EvolveTrade: 自己進化する LLM 取引 Agent のための経験主導型ポリシーの改良

EvolveTrade: Experience-Driven Policy Refinement for Self-Evolving LLM Trading Agents

AI インサイト

EvolveTradeは自己進化型のLLM取引エージェントフレームワークであり、経験に基づく戦略最適化を使用して取引戦略を更新し、LLM取引エージェントの適応性と取引パフォーマンスを向上させる。

arXiv CS.AIメディア84AIHOT

自己適応型物理 AI に向けて: LLM Agent は長期的な物理タスクを管理できるか?

Toward Self-Adaptive Physical AI: Can LLM Agents Manage Long-Horizon Physical Tasks?

AI インサイト

最新の研究では、ゼロショット適応型物理AIエージェント構築の可能性が検討されており、プランニング、ツール呼び出し、観察、検証を統合したマルチエージェントフレームワークが設計されている。これは、動的な物理環境におけるLLMエージェントの長期的なタスク管理を解決するための新たなアーキテクチャの探索を提供するものである。

arXiv CS.AIメディア83AIHOT

Vibe 特許取得: プロフェッショナルな特許起草の LLM 審査員の評価 Agent

Vibe Patenting: Evaluating LLM Judges for Professional Patent-Drafting Agents

AI インサイト

Vibe Patenting テストプラットフォームの登場は、専門的な特許草案などの複雑なタスクにおいて、反復フィードバックのための大規模な言語モデルの審判員を導入することで、単一世代による品質飽和のボトルネックを効果的に打破できることを示しています。この発見は、構造化された審判メカニズムに導かれて、低コストのエージェントが高推論モデルに近いパフォーマンスを達成することが期待され、それによってプロフェッショナル AI アプリケーションの経済モデルを変えることを意味します。

arXiv CS.CLメディア84AIHOT

Agent スキルを維持しているのは誰ですか?人間による管理と AI 支援によるスキル維持に関する縦断的研究

Who Maintains Agent Skills? A Longitudinal Study of Human-Governed, AI-Assisted Skill Maintenance

AI インサイト

大規模な言語モデルエージェントの外部スキルファイルへの依存度が高まっていることは、エージェントエンジニアリングの焦点が、単純な即時単語の作成から複雑で長期的なコンポーネント管理に移行していることを示しています。この研究は、オープンソースのスキルウェアハウスの縦断的研究を通じて、人工知能と人工知能によるエージェントスキルの共同維持における経験的ギャップを埋め、実際の展開におけるエージェントの進化を理解するための重要な入口点を提供します。