HomonymsとHeteronyms、そしてPlain Language - Mazurkaの英語よもやま話
先日アメリカの友人から、英語を勉強するならこういうのも面白いのでは、とHomonymsとHeteronymsの例文がいくつか送られてきました。 Homonym（同形同音異義語）とは、right（正しい）とright（右）のように、同じ発音なのに意味が異なる語、そしてHeteronym（同形異音異義語）とは、lead（導く［líːd］）とlead（鉛［léd］）のように、スペリングが同じでも発音と意味の異なる語のことです。 実はマズルカ、すぐにはどちらなのか、つまり同音か異音か、が判断できないものもあり、いつもいい加減に発音してるんだなあと反省しきりでした。 例えばこちらは、Homonym（同形同音異義語）の例。 The dump was so full that it had to refuse more refuse. refuse（動詞の拒絶する）とrefuse（名詞のゴミ）。 そ
Large language models (LLMs) have been increasingly used to interact with external environments (e.g., games, compilers, APIs) as goal-driven agents. However, it remains challenging for these language agents to quickly and efficiently learn from trial-and-error as traditional reinforcement learning methods require extensive training samples and expensive model fine-tuning. We propose Reflexion, a
【勉強メモ】RetNet: 大規模言語モデル用の Transformer の後継について説明 RetNet: A Successor to Transformer for Large Language ｜だいち
【勉強メモ】RetNet: 大規模言語モデル用の Transformer の後継について説明 RetNet: A Successor to Transformer for Large Language Models Explained RetNet: A Successor to Transformer for Large Language Models Explained（GPTにて要約）Summary論文「RetNet A Successor to Transformer for Large Language Models Explained」では、Transformerに代わる新しいモデル「RetNet」が提案されています。RetNetは、従来のTransformerとリカレントニューラルネットワーク、そしてスライディングウィンドウ注意を組み合わせる新しいモジュール「retentio
Concurnas is an open source JVM programming language designed for building reliable, scalable, high performance concurrent, distributed and parallel systems Using Concurnas helps organizations take full advantage of modern multi-core CPU and GPU hardware by making concurrent and parallel programming easier. Concurnas is interoperable with Java (and other JVM languages) - organizations are able to
Notice GPT-2 1.5B is trained with 40GB of Internet text, which is roughly 10 Billion tokens (conversely assuming the average token size is 4 characters). So GPT-3 175B has a lower data compression ratio 300 / 175 = 1.71 in comparison to GPT-2 1.5G 10 / 1.5 = 6.66. This raises the question that, with this amount of parameters, whether the model functions by memorizing the data in the training and p
Partcl - a tiny command language
Minimalist interpreters have always attracted me. First of all, they are a good fit for embedded systems whenever you need a custom domain-specific language. If one needs a scripting language for a microcontroller - there is not so many choices. Instead there are lots of constraints, like the size of the compiled binary code, RAM usage and memory management. Of course the language itself is import
The Go Blog Deconstructing Type Parameters Ian Lance Taylor 26 September 2023 slices package function signatures The slices.Clone function is pretty simple: it makes a copy of a slice of any type. func Clone[S ~[]E, E any](s S) S { return append(s[:0:0], s...) } This works because appending to a slice with zero capacity will allocate a new backing array. The function body winds up being shorter th
GitHub - WheretIB/nullc: Fast C-like programming language with advanced features
nullc is a C-like embeddable programming language with advanced features such as function overloading, operator overloading, class member functions and properties, automatic garbage collection, closures, coroutines, local functions, type inference, runtime type information, modules, list comprehension, enums, namespaces, generic functions and classes. Language is type-safe and memory-safe. nullc l
Retrieval Augmented Generation: Streamlining the creation of intelligent natural language processing models
Retrieval Augmented Generation: Streamlining the creation of intelligent natural language processing models Teaching computers to understand how humans write and speak, known as natural language processing (NLP), is one of the oldest challenges in AI research. There has been a marked change in approach over the past two years, however. Where research once focused on developing specific frameworks
数当てゲームのプログラミング ハンズオン形式のプロジェクトに一緒に取り組むことで、Rustの世界に飛び込んでみましょう！ この章ではRustの一般的な概念を、実際のプログラムでの使い方を示しながら紹介します。 let、match、メソッド、関連関数、外部クレートの使いかたなどについて学びます！ これらについての詳細は後続の章で取り上げますので、この章では基本的なところを練習します。 プログラミング初心者向けの定番問題である「数当てゲーム」を実装してみましょう。 これは次のように動作します。 プログラムは1から100までのランダムな整数を生成します。 そして、プレーヤーに予想（した数字）を入力するように促します。 予想が入力されると、プログラムはその予想が小さすぎるか大きすぎるかを表示します。 予想が当たっているなら、お祝いのメッセージを表示し、ゲームを終了します。 新規プロジェクトの立ち上
News As of May 1st, 2023, version 0.4 of daScript has been released. The development team is currently working on the next major release, which will include a fully featured JIT compiler. This JIT compiler is currently available as a preview. daScript now happily runs in the web browser. Check it out. We now have an official blog November 18th, 2021: version 0.3 released. September 5th, 2020: vers
Cargoのワークスペース 第12章で、バイナリクレートとライブラリクレートを含むパッケージを構築しました。プロジェクトの開発が進むにつれて、 ライブラリクレートの肥大化が続き、その上で複数のライブラリクレートにパッケージを分割したくなることでしょう。 この場面において、Cargoはワークスペースという協調して開発された関連のある複数のパッケージを管理するのに役立つ機能を提供しています。 ワークスペースを生成する ワークスペースは、同じCargo.lockと出力ディレクトリを共有する一連のパッケージです。 ワークスペースを使用したプロジェクトを作成し、ワークスペースの構造に集中できるよう、瑣末なコードを使用しましょう。 ワークスペースを構築する方法は複数ありますが、一般的な方法を提示しましょう。バイナリ1つとライブラリ2つを含むワークスペースを作ります。 バイナリは、主要な機能を提供します
GitHub - vlang/vinix: Vinix is an effort to write a modern, fast, and useful operating system in the V programming language
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
Fine-tuning language models~(LMs) on human-generated data remains a prevalent practice. However, the performance of such models is often limited by the quantity and diversity of high-quality human data. In this paper, we explore whether we can go beyond human data on tasks where we have access to scalar feedback, for example, on math problems where one can verify correctness. To do so, we investig
GitHub - BuilderIO/ai-shell: A CLI that converts natural language to shell commands.
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
RT2: Vision-Language-Action Models RT-2 model picking up object given the prompt "pick up the extinct animal." Anthony Brohan Noah Brown Justice Carbajal Yevgen Chebotar Xi Chen Krzysztof Choromanski Tianli Ding Danny Driess Avinava Dubey Chelsea Finn Pete Florence Chuyuan Fu Montse Gonzalez Arenas Keerthana Gopalakrishnan Kehang Han Karol Hausman Alex Herzog Jasmine Hsu Brian Ichter Alex Irpan Ni
Toit programming language
Documentation Blog GitHub Toit is a modern high-level language designed specifically for microcontrollers Toit is optimised for live reloading on your microcontroller. Your code runs incrementally as you write it and you get instant feedback. Push changes over your local WiFi in two seconds and reserve your USB cable for charging your phone. You iterate quickly, learn fast, and build better things
Tier System § Tier 1 Support § Not only can Zig generate machine code for these targets, but the standard library cross-platform abstractions have implementations for these targets. Thus it is practical to write a pure Zig application with no dependency on libc. The CI server automatically tests these targets on every commit to master branch, and updates the download page with links to pre-built b
GitHub - WooooDyy/LLM-Agent-Paper-List: The paper list of the 86-page paper "The Rise and Potential of Large Language Model Based Agents: A Survey" by Zhiheng Xi et al.
For a long time, humanity has pursued artificial intelligence (AI) equivalent to or surpassing human level, with AI agents considered as a promising vehicle of this pursuit. AI agents are artificial entities that sense their environment, make decisions, and take actions. Due to the versatile and remarkable capabilities they demonstrate, large language models (LLMs) are regarded as potential sparks
【ゼロからはじめる】プログラミング言語 Rust 集中講座 / The Book (The Rust Programming Language)
【はじめに】 プログラミング言語の1つであるRustは「人類が開発した最高のプログラミング言語」と評価されることもある、安全性とパフォーマンス(速度)に優れた言語です。2016–2022年の間、RustはStack Overflow Developer Surveyで「最も愛されているプログラミング言語」で一位を獲得し続けていました。一方でRustは学習難易度が高く、習得するために時間がかかるともよく言われています。この動画は、Rustの初心者が言語の全体を俯瞰し、習得するのを手助けするような動画です。Rustの世界的な標準教科書である通称「The Book(https://doc.rust-jp.rs/book-ja/ )」を用いて文法を1つ1つ解説していきます。教科書の横に並べてうまく活用してください。(質問や感想、指摘などコメント欄でお待ちしています。) ところで、Rustを自由自
GitHub - speed-highlight/core: Light, fast, and easy to use, dependencies free javascript syntax highlighter, with automatic language detection
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
ライフタイムで参照を検証する 第4章の「参照と借用」節で議論しなかった詳細の一つに、Rustにおいて参照は全てライフタイムを保持するということがあります。 ライフタイムとは、その参照が有効になるスコープのことです。多くの場合、型が推論されるように、 大体の場合、ライフタイムも暗黙的に推論されます。複数の型の可能性があるときには、型を注釈しなければなりません。 同様に、参照のライフタイムがいくつか異なる方法で関係することがある場合には注釈しなければなりません。 コンパイラは、ジェネリックライフタイム引数を使用して関係を注釈し、実行時に実際の参照が確かに有効であることを保証することを要求するのです。 ライフタイムの概念は、他のプログラミング言語の道具とはどこか異なり、間違いなくRustで一番際立った機能になっています。 この章では、ライフタイムの全体を解説することはしませんが、 ライフタイム記
普段は、ほぼバニラ vim を使うことが多いのですが、vim plugin を使って python 開発環境を構築することを目指します。 Language Server を導入 vim-lsp-settings は簡単に language server を導入できるプラグインです。 (注意: vim-lsp は Vim version 8 が必要です。 (ref)) vim-plug を使った install では .vimrc に下記を追記して :PlugInstall します。 今回は python の language server が欲しいです。 現在、 vim-lsp-settings がサポートしている python の language server は下記の 4 種類あります (ref)。 pyls-all: (pyls with dependencies) pyls: (
ReAct: Synergizing Reasoning and Acting in Language Models (言語モデルにおける推論と行動の相乗効果)｜npaka
ReAct: Synergizing Reasoning and Acting in Language Models (言語モデルにおける推論と行動の相乗効果) 1. はじめに近年、思考の連鎖 (CoT: Chain of Thought) を促した言語モデルは、さまざまな算術、常識推論タスクに優れ、創発的な能力を発揮します。ただし、独自の内部表現を使用するため、リアクティブに探索・推論したり、知識を更新したりする能力が制限されます。 一方、最近の研究では、事前学習済み言語モデルで「テキストコンテキスト」を「テキスト行動」にマッピングすることで、さまざまなインタラクティブ環境 (例: テキストゲーム、Webナビゲーション、ロボティクス) で行動を決定しています。ただし、それらは多段階の目標について抽象的に推論したり、作業記憶を維持したりしません。 「ReAct: Synergizing R
[Azure AI] ②自然言語処理の機能を提供するAzureのサービス Language Understanding (LUIS) を改めて理解する - 実践編 - - Qiita
[Azure AI] ②自然言語処理の機能を提供するAzureのサービス Language Understanding (LUIS) を改めて理解する - 実践編 -Azure自然言語処理linebotLUISQiitaAzure こんにちは、もっちゃんと申します。 前回の記事ではLUISの解説・説明的な内容を扱いました。 そして今回は実際に手を動かしてLUISを使って理解していこうと思います！ さっそく使ってみる 事前準備 Microsoft AzureのサブスクリプションとCognitive Servicesのリソースを事前に作成して用意しておきましょう！ 新しいアプリの開始 まずは、LUIS 専用のポータル画面にアクセスしてサインインを行い、LUISの画面に入ったら使用するサブスクリプションを選択します。 Create a new authoring resourceをクリックして
![[Azure AI] ②自然言語処理の機能を提供するAzureのサービス Language Understanding (LUIS) を改めて理解する - 実践編 - - Qiita](https://cdn-ak-scissors.b.st-hatena.com/image/square/366280246c55463b6bb33a845aa2799a0ed565a4/height=288;version=1;width=512/https%3A%2F%2Fqiita-user-contents.imgix.net%2Fhttps%253A%252F%252Fcdn.qiita.com%252Fassets%252Fpublic%252Farticle-ogp-background-412672c5f0600ab9a64263b751f1bc81.png%3Fixlib%3Drb-4.0.0%26w%3D1200%26mark64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZ3PTk3MiZoPTM3OCZ0eHQ9JTVCQXp1cmUlMjBBSSU1RCUyMCVFMiU5MSVBMSVFOCU4NyVBQSVFNyU4NCVCNiVFOCVBOCU4MCVFOCVBQSU5RSVFNSU4NyVBNiVFNyU5MCU4NiVFMyU4MSVBRSVFNiVBOSU5RiVFOCU4MyVCRCVFMyU4MiU5MiVFNiU4RiU5MCVFNCVCRSU5QiVFMyU4MSU5OSVFMyU4MiU4QkF6dXJlJUUzJTgxJUFFJUUzJTgyJUI1JUUzJTgzJUJDJUUzJTgzJTkzJUUzJTgyJUI5JTIwTGFuZ3VhZ2UlMjBVbmRlcnN0YW5kaW5nJTIwJTI4TFVJUyUyOSUyMCVFMyU4MiU5MiVFNiU5NCVCOSVFMyU4MiU4MSVFMyU4MSVBNiVFNyU5MCU4NiVFOCVBNyVBMyVFMiU4MCVBNiZ0eHQtY29sb3I9JTIzMjEyMTIxJnR4dC1mb250PUhpcmFnaW5vJTIwU2FucyUyMFc2JnR4dC1zaXplPTU2JnR4dC1hbGlnbj1sZWZ0JTJDdG9wJnM9NTE4ZmM3ZDVlODJjNTY5ZmJjY2Y5ZTBmNjk1ZmNmZmU%26mark-x%3D142%26mark-y%3D57%26blend64%3DaHR0cHM6Ly9xaWl0YS11c2VyLWNvbnRlbnRzLmltZ2l4Lm5ldC9-dGV4dD9peGxpYj1yYi00LjAuMCZoPTc2Jnc9NzcwJnR4dD0lNDBtb2NoYW5fdGsmdHh0LWNvbG9yPSUyMzIxMjEyMSZ0eHQtZm9udD1IaXJhZ2lubyUyMFNhbnMlMjBXNiZ0eHQtc2l6ZT0zNiZ0eHQtYWxpZ249bGVmdCUyQ3RvcCZzPWM2YTI4ZTA3NGRmYTdlYzA3NmVmY2UyNDI5ZWYwNmMy%26blend-x%3D142%26blend-y%3D436%26blend-mode%3Dnormal%26txt64%3DaW4gTElORSBEZXZlbG9wZXIgQ29tbXVuaXR5%26txt-width%3D770%26txt-clip%3Dend%252Cellipsis%26txt-color%3D%2523212121%26txt-font%3DHiragino%2520Sans%2520W6%26txt-size%3D36%26txt-x%3D156%26txt-y%3D536%26s%3Ded91a1d1653fd556c2752172972d332c)
CUE is an exciting configuration language — Bitfield Consulting
You may already be familiar with JSON or YAML data, possibly to the point of exasperation. It might represent Kubernetes services, API schemas, or cloud infrastructure of some kind. Configuration data specifies how things should behave or be arranged, and there's plenty of it around these days. So what's my problem? The problemJSON is easy for machines to generate or parse, but it seems verbose an
Exploring biphasic programming: a new approach in language design
I’ve noticed a small but interesting trend in the programming languages space. I’m not sure how novel it is, but this pattern, which I’ll refer to as “biphasic programming,” is characterized by languages and frameworks that enable identical syntax to express computations executed in two distinct phases or environments while maintaining consistent behavior (i.e., semantics) across phases. These pha
Rust Programming Language Tutorial – How to Build a To-Do List App
Since its first open-source release in 2015, the Rust programming language has gained a lot of attention from the community. It's also been voted the most loved programming language on StackOverflow's developer survey each year since 2016. Rust was designed by Mozilla and is considered a system programming language (like C or C++). It has no garbage collector, which makes its performance really go
Updated Mon Feb 5 10:22:02 EST 2024 Available in paperback and e-book formats. Order at Amazon and other fine booksellers. Introduction This page holds material related to the second edition of The AWK Programming Language. The first edition was written by Al Aho, Brian Kernighan and Peter Weinberger in 1988. Awk has evolved since then, there are multiple implementations, and of course the computi
Simon Willison on Twitter: "SQL is a better API language than GraphQL. Convince me otherwise!"
SQL is a better API language than GraphQL. Convince me otherwise!
GitHub - XiongjieDai/GPU-Benchmarks-on-LLM-Inference: Multiple NVIDIA GPUs or Apple Silicon for Large Language Model Inference?
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
Start by writing the prompt you want to optimize. You can write it in just a couple of sentences, and the tool will expand it to add more details. Then, add the variables. These are snippets of text that you want to fill in later. For example, if you are creating a prompt to generate an email to answer a customer complaint, you might want to add the variables: customer name, customer email, and th
research!rsc: Programming Language Memory Models (Memory Models, Part 2)
Programming language memory models answer the question of what behaviors parallel programs can rely on to share memory between their threads. For example, consider this program in a C-like language, where both x and done start out zeroed. // Thread 1 // Thread 2 x = 1; while(done == 0) { /* loop */ } done = 1; print(x); The program attempts to send a message in x from thread 1 to thread 2, using d
Large Language Model(LLM)をもっと活用したい！"LangChain"を使ってみました。 - CCCMKホールディングス TECH Labの Tech Blog
こんにちは、CCCMKホールディングス TECH LABの三浦です。 "シャドーイング"という英語の学習方法があり、最近試してみています。これは英語の音声を聞きながら、それを追いかけるように発音する、という方法で、ヒアリングやスピーキング力の改善に効果があるそうです。英語を発音しようとするとなかなか思ったように口が回らないのですが、英語を話すための口周りの筋肉が整っていない、とったことも要因としてあるようです。動画を見ながら発声練習を始めてみたので、今後改善されるといいな、と期待しています。 最近はLarge Language Model(LLM)について、毎日のように新しい情報がインターネットなどで見つかります。本当にホットな話題なんだな、と感じています。このブログでも最近LLMによりよい指示を与えるためのPrompt Engineeringのテクニックについて、最近発表された論文などを
GitHub - databrickslabs/dolly: Databricks’ Dolly, a large language model trained on the Databricks Machine Learning Platform
Databricks’ Dolly is an instruction-following large language model trained on the Databricks machine learning platform that is licensed for commercial use. Based on pythia-12b, Dolly is trained on ~15k instruction/response fine tuning records databricks-dolly-15k generated by Databricks employees in capability domains from the InstructGPT paper, including brainstorming, classification, closed QA,
Filippo Valsorda 15 September 2021 The Go standard library provides crypto/tls, a robust implementation of Transport Layer Security (TLS), the most important security protocol on the Internet, and the fundamental component of HTTPS. In Go 1.17 we made its configuration easier, more secure, and more efficient by automating the priority order of cipher suites. How cipher suites work Cipher suites da
I think there is a bit of confusion still as to what "fearless concurrency" actually means in the context of Rust. In particular, OOTA behavior of relaxed reads (which is excluded by the RustBelt model you linked, incidentally), doesn't violate any of Rust's memory safety guarantees by itself--relaxed memory operations in general will still not invoke undefined behavior. Rather, stuff like OOTA "j
After Go 1.18 was released with support for type parameters (more commonly referred to as generics), we wanted to understand what the initial awareness and adoption of generics looked like, as well as identify common challenges or blockers for using generics. The vast majority of survey respondents (86%) were already aware generics shipped as part of the Go 1.18 release. We had hoped to see a simp
Misty Programming Language: Contents Introduction Types Operators Statements Functions Patterns Intrinsic Constants And Functions Programs Time Fit Math Bits JSON Parseq Security Tokenize {Misty source} {JavaScript source} Parse The Parse Tree Nota Message Format Kim DEC64 Base 32 Seif Public Domain 2024 Douglas Crockford
Julie Qiu 10 November 2020 Since launching pkg.go.dev, we’ve received a lot of great feedback on design and usability. In particular, it was clear that the way information was organized confused users when navigating the site. Today we’re excited to share a redesigned pkg.go.dev, which we hope will be clearer and more helpful. This blog post presents the highlights. For details, see Go issue 41585
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Reflexion: Language Agents with Verbal Reinforcement Learning
The Concurnas Programming Language
OpenAI's GPT-3 Language Model: A Technical Overview
Deconstructing Type Parameters - The Go Programming Language
数当てゲームのプログラミング - The Rust Programming Language 日本語版
daScript - The High Performance Programming Language
Cargoのワークスペース - The Rust Programming Language 日本語版
Beyond Human Data: Scaling Self-Training for Problem-Solving with Language Models
RT-2: Vision-Language-Action Models
0.5.0 Release Notes · The Zig Programming Language
ライフタイムで参照を検証する - The Rust Programming Language 日本語版
Vim で Python の開発環境を構築する (with language server) - Qiita
The AWK Programming Language, Second Edition
Free Prompt optimizer for Language Models (LLMs)
Automatic cipher suite ordering in crypto/tls - The Go Programming Language
What Memory Model Should the Rust Language Use?
Go Developer Survey 2022 Q2 Results - The Go Programming Language
Misty Programming Language: Contents
Pkg.go.dev has a new look! - The Go Programming Language