コンテキストエンジニアリングは、単なるプロンプト設計から進化し、LLMにタスク解決に必要なあらゆる情報を提供する広範な手法である.
コンテキストにはシステムプロンプト、ユーザープロンプト、短期・長期メモリ、外部情報取得、利用可能なツール、応答のフォーマット定義などが含まれる.
エージェントの成功はモデル性能以上に、適切なコンテキストの質によって左右される。多くの失敗はモデルの問題ではなくコンテキストの不足が原因である.
+2 more insights
Protonが米国での既存のAppleに対する集団訴訟に共同原告として参加した。
訴訟はApp Storeの30%手数料や閉鎖的な配信体制が反競争的だと主張している。
Appleの政策はプライバシー重視企業や消費者の選択肢を制限し、検閲や言論抑制に加担している。
+3 more insights
任意のデータ構造(リスト、マップ、配列、二分木など)で動作するジェネリック実装手法を紹介します。
ヘッダーのマクロ展開による従来のLevel0ジェネリックは可読性やバイナリ肥大化、ビルド時間増加などの欠点があります。
void *を使うLevel1は型安全性がなくパフォーマンス面でもメモリ割り当てやキャッシュミスの問題があります。
+4 more insights
最近のAI進化は主に新たなデータセットの活用によって推進されてきた。
AIの大きな4つのブレークスルー(DNN→トランスフォーマーLLM→RLHF→推論モデル)はそれぞれ新規データソースの導入によるものである。
モデル性能向上においては新しいアルゴリズムよりもデータの質と量が最大の要因となる可能性が高い。
+1 more insights
ZSNESでは樽の左右入力が無限回転し、意図した停止動作が行えないバグが発生する.
原因はSNES特有のオープンバス動作をZSNESがエミュレートしておらず、アドレス$B3:$2000からの不正な読み出しが常にゼロを返すためである.
ゲームコードでは本来即値AND #$2000を使うべきところを誤ってAND $2000(オープンバス読み出し)にしていた.
+2 more insights
2023年5月の公示求人件数は月次で0.51%減少したが、前年比+0.49%で3ヶ月連続の年次改善を示した。
平均公示年収は£42,403で前年同月比9.38%増加し、2022年中盤以来の強い賃金上昇を記録した。
大卒向け求人は5月に4.2%減少し、前年同月比28.4%減で2020年7月以来の低水準となった。
+5 more insights
新バージョン「Occult Vampire Keanu」の公開ベータテストが開始された。
UIを簡素化し、アクセシビリティ重視のテーマを5.5種類提供している。
公共の場でも入力内容を隠せるCoffeeshopモードを追加した。
+6 more insights
TokenDaggerはOpenAIのTikTokenと完全互換の高速実装です。
通常トークナイザーと比べて2倍のスループットを実現します。
コードのトークン化では4倍の速度向上を達成しています。
+3 more insights
C標準にはポインタの由来(provenance)が未定義であり、コンパイラごとに異なる仮定が最適化を混乱させていた。
ISO/IEC TS 6010としてポインタ由来モデルが国際規格化され、明確な数学的仕様が提供された。
モデルは最大単位の『ストレージインスタンス』を起源としてポインタを追跡し、抽象的なアドレス空間にマッピングする。
+3 more insights
安価な50ドルの市販CGMを2週間自己装着できた。
センサーは5分ごとに測定し、15分ごとにスマホへデータを送信する。
iOSアプリは直接エクスポート不可だが、Apple Health経由でXML→CSV化が可能。
+2 more insights