バイデン政権、メモリ安全性の高いプログラミング言語の採用を呼びかけ
バイデン政権は2024年2月26日（現地時間、以下同）の週、悪質な国家やハッカーが悪用する重大な脆弱（ぜいじゃく）性を減らすための取り組みの一環として、メモリ安全性の高いプログラミング言語の採用について主要業界の支持を集めた。 メモリ安全性の高いプログラミング言語の使用に賛同の声 SAPやAccenture、Palantir、Hewlett Packard Enterpriseなどの大手テクノロジー企業は（注1）、メモリ安全性の高いプログラミング言語の採用を支持している。スタンフォード大学やオックスフォード大学の関係者も、ソフトウェアの測定性を向上させる取り組みを支持している。 ホワイトハウスの国家サイバー局は、2024年2月26日に報告書を発表し（注2）、テクノロジー業界に対して製品にメモリ安全性の高い言語を広く採用するよう呼びかけるとともに、研究コミュニティーに対し、安全なソフトウェア
LLMの根幹「Transformer」とは？並列処理に最適なワケ
2017年にGoogleの研究者が提唱した深層学習モデルで、チャットAI「Chat GPT」などに使われる。「どこに注目するか」を重視したことで、自然言語処理での精度や処理速度を大幅に高めた。 米OpenAIの「ChatGPT」は2022年に公開されるやいなや、その精度の高さに世界が衝撃を受けた。このChatGPTは、同社の大規模言語モデル（LLM）「GPT（Chat Generative Pre-trained Transformer）」をベースにしている。Transformerこそ、LLMの根幹である。 Transformerはエンコーダー（符号器）とデコーダー（復号器）で構成し、「どこに注目するか」を重視するアテンション機構を中心としている。大規模並列処理に向いたモデルで、GPUでの処理を想定して設計した。 Transformerは米Google Brain（現在の米Google D
HTML::Template
NAME HTML::Template - Perl module to use HTML-like templating language SYNOPSIS First you make a template - this is just a normal HTML file with a few extra tags, the simplest being <TMPL_VAR> For example, test.tmpl: <html> <head><title>Test Template</title></head> <body> My Home Directory is <TMPL_VAR NAME=HOME> <p> My Path is set to <TMPL_VAR NAME=PATH> </body> </html> Now you can use it in a sm
LLMベースの新しい言語『SUQL』が示唆する「非構造化データのクエリ」を処理するパラダイム | AIDB
スタンフォード大学の研究者たちは、新しいプログラミング言語『SUQL』（Structured and Unstructured Query Language）を開発しました。 この言語は、SQL（Structured Query Language）の概念を拡張し、非構造化データのクエリ処理を可能にする新しいパラダイムを導入しています。構造化データ（例えばデータベース内のデータ）と非構造化テキストデータ（自由形式のテキストなど）の両方を処理する能力を持つ初めての言語として位置づけられています。 『SUQL』の開発は、データソースをより効果的に活用するための手法を模索する研究の一環です。従来の技術では、構造化データと非構造化データを一元的に処理することには課題がありました。 大規模言語モデル（LLM）に基づくプロンプトコンポーネントで構成される『SUQL』は、今後の開発トレンドを牽引する研究と
GPT-4、Bard、Claude2などの異なるLLMが円卓を囲み議論した結果の回答は品質が高いとの検証報告。円卓ツールも公開 | AIDB
異種LLM同士の議論 米ノースカロライナ大学の研究者らは、異なる種類の大規模言語モデル（LLM）同士に議論させるというアプローチを採りました。 このアイデアの背後には、異なるモデルがそれぞれの強みと弱みを持っているという認識があります。例えば、GPT-4は一般的なテキスト生成に優れている一方で、Bardは物語生成に特化しています。これらのモデルを組み合わせることで、より高度な推論が可能になると考えられています。 研究者らは、複数の異なるLLM（GPT-4、Bard、Claude2など）を円卓会議のような形で議論させるアイデアを形にしました。各モデルは独自の視点と推論能力を持ち寄り、最終的な回答や結論を出す過程が検証されました。 異種LLMs円卓会議ツール 研究者らはただ実験を行って報告するだけでなく、LLM同士に議論させて答えを提出させるプロセスを自動化するツールも提供しています。このツー
LTS版「Linux」カーネルのサポートが短縮へ--背景にメンテナーの苦悩
現地時間9月19日からスペインのビルバオで開催されていた「Open Source Summit Europe」で、Linuxカーネル開発者であり、LWN.netの編集責任者を務めているJonathan Corbet氏が、Linuxカーネル関連の新しい点や今後の動きについて発表した。 ここではその中から、今後の大きな変更点の1つを紹介したい。それは、Linuxカーネルの長期サポート（LTS）が6年から2年に短縮されるということだ。 LinuxカーネルのLTS版には現在のところ、6.1と5.15、5.10、5.4、4.19、4.14の6つがある。これまでであれば、4.14は2024年1月にサポートが終了し、別のカーネルが追加されていた。しかし今後は、4.14とその次の2つのバージョンのサポートが終了しても、別のカーネルがそれに取って代わることはない。 なぜだろうか。Corbet氏は単純なことだ
PHP: 可変関数 - Manual
可変関数 PHP は可変関数(variable functions)の概念をサポートします。 これにより、変数名の後に括弧が付いている場合、その値が何であろうと PHPは、同名の関数を探し実行を試みます。 この機能は、コールバック、関数テーブル等を実装するために使用可能です。 可変関数は、echo, print, isset(), empty(), include, require のような言語構造と組み合わせて使用する ことはできません。これらの言語構造を可変変数として使うには 独自のラッパー関数を使う必要があります。 <?php function foo() { echo "In foo()<br />\n"; } function bar($arg = '') { echo "In bar(); argument was '$arg'.<br />\n"; } // これは、echo
PHP: elseif/else if - Manual
elseif/else if (PHP 4, PHP 5, PHP 7, PHP 8) elseifは、その名前から分かるように、if とelseの組み合わせです。elseifは、 elseのように、元のif式の値が falseの場合に別の文を実行するようにif 文を拡張します。 しかし、elseとは異なり、elseif式が trueの場合にのみ代わりの式を実行します。 例えば、次のコードは、aはbより大きい、 aはbに等しい、 aはbより小さいを出力します。 <?php if ($a > $b) { echo "aはbより大きい"; } elseif ($a == $b) { echo "aはbと等しい"; } else { echo "aはbより小さい"; } ?> 複数の elseif を同じ if 文の中で使用することができます。 true と評価された最初の elseif 式を実
PHP: 式 - Manual
式 式は、PHP における最も重要なビルディングブロックです。PHPにおいては、ほとんど全てのものは式で記述されます。 最も簡単で最も正確な式の定義は、"値があるもの全て"です。 考えられる簡単な例は、定数と変数です。 $a = 5 と入力すると、 $a に 5 を代入することになります。 5 は、明らかに、 5 という値です。 言葉を変えると 5 は 5 という値を有する式なのです。 (この場合、5 は整数定数です。) この代入の後、$a の値は、5 であることが期待されます。 よって、$b = $a と書いた場合、$b = 5 と書いたのと 同じように動作することが期待されます。 言い換えると $a は 5 という値を持つ式なのです。 全てが正しく動作する場合、何が起こるかをこのことが正確に表現しています。 式をもう少し複雑にしたのが関数です。 例えば、次の関数を考えてみましょう。 あ
Protocol Buffers - Wikipedia
Protocol Buffers（プロトコルバッファー）は構造データのシリアライズを目的とした技術スタックである[1]。 通信や永続化において構造データのシリアライズは重要である。Protocol Buffers はこれを実現するための仕様およびライブラリであり、定義言語（インタフェース定義言語）・シリアライズ形式・各言語向けランタイムライブラリ・プロトコンパイラ生成コードの4要素からなる[2]。 Protocol Buffersのデザインの目的はシンプルさとパフォーマンスである。とりわけ、XMLより高速になるようデザインされている。GoogleはXMLとの比較で、3〜10倍小さく、20〜100倍高速であると主張している[3]。Google自身が挙げている例では、XMLでは69バイト以上の物が Protocol Buffersでは28バイトであり、XMLのパースは5〜10マイクロ秒も必要だ
初心者が言語モデルを勉強するための本（2023年6月版） - ぱたへね
流行のLLMを勉強したくて沢山本を読みました。 この後もしばらくLLM（GPT）関係の出版が続きそうなので、現状の本でまとめてみました。 参考： nowokay.hatenablog.com まとめ。 Transformerの仕組みを知りたい人で、画像のDeep Learningなら分かるって人はVision Transformer入門 言語モデルをデータセットを作る所からやってみたい人には、作ってわかる! 自然言語処理AI とにかくすぐに動かしたい人には、機械学習エンジニアのためのTransformers ビジネス的に何ができるのかを知りたい人はBERT入門 Vision Transformer入門 Vison Transformerになっていますが、Transformerの説明がとても詳しくお勧めです。実際に写経してパーツパーツで動かせるのはこの本だけ。Transformer一点突破な
シンプルなテキストファイルで UML が書ける、オープンソースのツール
🌱 一目でわかるPlantUML 🚀 はじめに PlantUMLは、様々なダイアグラムを迅速かつ簡単に作成できる、非常に多目 的なツールです。 シンプルで直感的な言語を利用することで、ユーザは様々なタイプのダイアグラム を簡単に作成することができます。 この言語の機能とシンタックスの詳細については、PlantUML Language Reference Guide をご参照ください。 PlantUML を初めてお使いになる場合には、 を素早く立ち上げて実行するために、クイック・スタート・ ページから始めることをお勧めします。 さらに、PlantUML は、ワークフローを強化するために、他のさまざまなツールと シームレスに統合することができます。 🧩 サポートされる UML 図 PlantUML を使用することで、以下のような構造化された UML 図を作成することができます： シーケン
オープンソースで商用利用可能な大規模言語モデル「Falcon」が登場、オープンソースモデルの中では最高の性能に
アラブ首長国連邦の首都アブダビに拠点を置く研究機関「Technology Innovation Institute」がオープンソースの大規模言語モデル「Falcon」をリリースし、機械学習関連のデータ共有サイト「Hugging Face」にてモデルを公開しました。 Falcon LLM - Home https://falconllm.tii.ae/ The Falcon has landed in the Hugging Face ecosystem https://huggingface.co/blog/falcon tiiuae/falcon-40b · Hugging Face https://huggingface.co/tiiuae/falcon-40b Falconモデルは400億個のパラメーターをもつ「Falcon-40B」モデルと、70億個のパラメーターをもつ「Falco
ChatGPTなどの大規模言語モデルはどんな理論で成立したのか？重要論文24個まとめ
2022年11月にChatGPTが公開され、たった1週間で100万ユーザーを超えたのをきっかけに、GoogleのBardやMicrosoftのBing AI Chatなど、大規模言語モデルを利用したチャットAIが続々とリリースされています。チャットAIを研究しているセバスティアン・ラシュカさんが、チャットAIが実用化されるまでの研究の軌跡を重要な論文24個に絞って要約しています。 Understanding Large Language Models - by Sebastian Raschka https://magazine.sebastianraschka.com/p/understanding-large-language-models ◆目次 ・主要なアーキテクチャとタスク ・スケーリングと効率性の向上 ・言語モデルを意図した方向へ誘導する ・人間のフィードバックによる強化学習(
Oracle、「Java 20」をリリース 最も重要な7つの機能強化と変更点とは
Oracleは2023年3月21日（米国時間）、プログラミング言語と開発プラットフォームである「Java」の最新版「Java 20」と、Java開発キット「Oracle JDK 20」の一般提供を開始した。 Java 20ではパフォーマンスや安定性、セキュリティを強化する数千の改良が実施されている。Oracle JDK 20では開発者の生産性向上に向けて7つの機能強化と変更が行われている。これらの機能強化と変更は「JDK Enhancement Proposal」（JEPs：JDK拡張提案）で定義されている。 関連記事 未経験者に「プログラミング言語」は求めない 調査で分かった企業が期待するスキルとは パーソルキャリアは、「doda ビジネスパーソンと企業の転職意識ギャップ調査」の結果を発表した。それによるとITエンジニア職「未経験歓迎」求人の割合は2年前（2021年1月）に比べて約3.0
MISRA-Cにおける「関数の末尾以外の return 禁止」の真意 - 新・日々録 by TRASH BOX@Eel
MISRA C という失敗 (#2295472) | コーディング標準は役に立つのか | スラド 早期returnとMISRA-Cルール14.7は背反か否か． - Togetter MISRA-Cはそもそも、 どのルールを守り、どのルールから逸脱するのか検討し、決定する。 上記の決定内容とその理由（順守するルール、逸脱するルール、逸脱の理由と範囲など）についてドキュメント化する。 ――という工程を経る前提で作られているルール集なので、「使い物にならない制約」と感じるのなら逸脱して構わない（ただしプロジェクト内で議論したうえで、必要な部分はしっかりドキュメント化してね）のだけど、それは置いておいて。 付け加えるのなら、自分なら例えば「使用条件をドキュメント化した上で限定的にgotoを許可する*1」とかやるだろうけど、それも置いておいて。 MISRA-Cにて「関数の末尾以外の return 禁
ChatGPTなどの言語モデルに仕事を奪われる危険性がある職業ベスト20 (2/2) - ナゾロジー
言語モデルの影響を受けやすい職業ベスト20測定ツールは次の結果を提出しました。 以下は、ChatGPTなどの言語モデルの影響を受けやすい職業ベスト20です。 電話勧誘業者（Telemarketers）英語（国語）と英文学の教師（English language and literature teachers）外国語と外国文学の教師（Foreign language and literature teachers）歴史の教師（History teachers）法律の教師（Law teachers）哲学と宗教の教師（Philosophy and religion teachers）社会学の教師（Sociology teachers）政治学の教師（Political science teachers）刑事司法と法執行機関の教師（Criminal justice and law enforceme
C++の後継言語「Carbon」がRustと“決定的に違う点”はこれだ
関連キーワード Google | プログラミング 広く使われているプログラミング言語「C++」。その後継としてGoogleが開発しているオープンソースプログラミング言語が「Carbon」だ。本連載は、ソースコード品質管理ベンダーSonarSourceで開発者を支援する立場にあるフィル・ナッシュ氏が、Carbonについて英Computer Weeklyに寄稿したものだ。 Rustと「Go」の根本的な違い 世間の見方とは異なり、CarbonはC++に取って代わるものではない。同社はむしろ、後継のプログラミング言語としてCarbonを設計している。同じように聞こえると感じる読者もいるだろう。重要な違いは、GoogleがCarbonとC++を 一緒に使うことを想定している 点だ。 併せて読みたいお薦め記事 Carbonとは何か Googleのプログラミング言語「Carbon」がC++の後継になれな
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
「Python 3.12」が正式版に ～言語機能の強化で使い勝手向上、エラーもわかりやすく／「Microsoft Store」にも「Python 3.12」バイナリが追加
TIS、アセンブラ言語をCOBOL言語に変換する「アセンブラマイグレーションサービス」を提供
