ブックマーク / medium.com (11)

  • 超巨大高性能モデルGPT-3の到達点とその限界. この記事では、超巨大言語モデルGPT-3の技術的な解説、GPT-3達成したことと… | by akira | Jul, 2020 | Medium

    この記事についてこの記事ではGPT-3[1]の解説をします。内容のサマリは以下の通りです。 GPT-3の前身であるGPT-2では、巨大なデータセット+巨大なネットワークで言語モデルを構築し、各タスクで学習させなくても良い結果が得られた。GPT-3では、さらに巨大なデータセット+さらに巨大なネットワークで言語モデルを構築し、数十のサンプルを見せると凄く良い結果が得られた一方、様々なタスクに言語モデルのスケールアップのみで対応することへの限界が見えてきた。人種、性別、宗教などへの偏見の問題や、悪用に対する課題もある。この記事の流れは以下の通りです。 Transformer, GPT-2の説明GPT-3のコンセプトと技術的な解説GPT-3ので上手くいくタスクGPT-3で上手くいかないタスク偏見や悪用への見解 Transformerまず、GPT-3の前身となったGPT-2に入る前に、その中に使われ

    超巨大高性能モデルGPT-3の到達点とその限界. この記事では、超巨大言語モデルGPT-3の技術的な解説、GPT-3達成したことと… | by akira | Jul, 2020 | Medium
    blueboy
    blueboy 2020/07/25
     思いつくという課程では、人間の思考も確率的なのだが、人間の思考の場合には、ダメなときにダメだと判定するエラーチェック機構が組み込まれているので、ダメな候補を排除することができる。  https://j.mp/2D4eZpQ
  • 【いでよ障害対応太郎】我々はインシデントにどう向き合っているのか 〜社内向け障害対応リスト付き〜

    「なんかアプリでインシデント起きてエンジニアがどこかで対応してるらしいよ」 「インシデント時のお知らせって誰がどうやって出すんだっけ?」 「インシデントの復旧作業って今どれくらい終わってる?」 「あのインシデントって振り返りしたっけ?」 「似たようなインシデント、前も対応したような、していないような」 このような会話に覚えはありませんか? FiNC Technologies社 (以下FiNC) では今まで インシデント対応をしていても自チーム内で対処しようとしてしまい、他の人が気づけないインシデント対応の仕方にフォーマットがなく、迅速な対応やお客様への報告ができないインシデントの振り返りが実施されず、インシデント時の知見が共有されないという問題がありました。 それらの問題を 気が付きやすく、シェアしやすくする = 統一のチャンネルで情報を整理し、そこにシェアしやすい空気を作る何をすべきかわ

    【いでよ障害対応太郎】我々はインシデントにどう向き合っているのか 〜社内向け障害対応リスト付き〜
    blueboy
    blueboy 2020/07/22
     HTML でインデントを使うにはどうすればいいのか? CSS を使うしかないのか?
  • 日本もハーバード大のコロナ対策案を大至急検討すべきだ

    初版:2020/4/26 9:00公開 Ver2.0: 2020/4/26 21:00 対策会議でのIT活用検討について追記しました。 Ver2.1: 2020/4/27 13:20 タイトルの誤記を修正しました。 2020/4/20付でバーバード大のCenter of Ethics (倫理センター)が、”Roadmap to Pandemic Resilience”というタイトルのコロナ封込めプランを発表した。 彼らのプランは、ロックフェラー財団の支援を受け、経済学、公衆衛生、技術、倫理の専門家が集まって立案したもので、今までのプランにない具体性と実行可能性をもっているプランだと感じている。以下にそのプランの概要と日における導入検討における検討ポイントを説明しておきたい。 なお、この”Roadmap to Pandemic Resilience”だが、当然ながらレポートは英語である。た

    日本もハーバード大のコロナ対策案を大至急検討すべきだ
    blueboy
    blueboy 2020/04/27
    大規模検査は、感染の初期には大いに効果がある。が、いったん感染が拡大したあとでは、ロックダウンで隔離しても効果はないと英国や仏国で判明している。一方、マスク普及はすごく有効だと実証済み。日本や台湾。
  • モデリングから考える長期的なCOVID-19戦略

    青が何も介入をしなかったとき、黄色が4月8日から8割の接触を減少させたときです。 4月8日から接触を8割カットすると、新規患者数は4月17日頃にピークを迎え、その後減少が予想されます。5月8日から普段通りの生活に戻ると再度感染者は増加する。 長期的に見ると 波は横にずれますが、形はほとんど変わりません。ピーク時の1日の新規感染者数が120万人となると到底医療システムが成り立ちません。 ところで、「集団免疫」という言葉がかなり聞かれるようになりましたが、免疫をもつ人が人口のある程度の割合(この割合は病原体それぞれの感染力や人々の接触パターンによりますが)に達した時に、感染拡大は収まります。 逆に集団免疫の状態に到るまでは一時的な措置を取っている間は感染拡大がおさまってもそれをやめると再燃する、というジレンマがあります。 厳しい外出制限をこのまま永遠に(ワクチンが開発されるまで)しなければいけ

    モデリングから考える長期的なCOVID-19戦略
    blueboy
    blueboy 2020/04/10
    「人と人との接触を8割カット」しても、効果はほとんどない。「人と物との接触」による接触感染が 86% を占めるからだ。→ https://bit.ly/3c44U8D / 長期戦略は、冬の感染爆発を夏に前倒しすること。 https://bit.ly/3a8WSus
  • あいちトリエンナーレ2019「表現の不自由展・その後」に関するお詫びと報告

    【2019年8月16日追記】 昨日公表した「あいちトリエンナーレ2019『表現の不自由展・その後』に関するお詫びと報告」の中で、「1つは、自分を批判する人を見つけたら『コロス』リストに入れると言った発言についてです。これは、アンガーコントロールの一環として、怒りを覚えた相手について、『コロス』リストに入れることで、その人に対する怒りを静めようとしたものであり、公開する気もなければ、もちろん、実行する気もありませんでした。特定の人に対する怒りを静めるために、怒りを覚えた相手を記録することで怒りを静めるやり方は、XXX協会や、XXXで推奨されている方法です。」と記載したところ、その協会が「コロスリスト」を推奨していると誤読した方々からたくさんの問い合わせや抗議が来ていてとても迷惑しているとの苦情をXXX協会から受けるに至りました。日電話で対応に当たられた皆様には、この場を借りてお詫びいたしま

    あいちトリエンナーレ2019「表現の不自由展・その後」に関するお詫びと報告
    blueboy
    blueboy 2019/08/16
    企画展そのものを、実行委の作品だ、と言っている。呆れる。展覧会が作品であるわけがない。今回はただの丸投げだ。責任をもてないならやるべきでない。むしろ美術館が独自の選定をするべきだった。 http://j.mp/2MjDSRW
  • ドワンゴを退職します

    TL;DRタイトルの通りです。給料上がんねーから 2019/1/31 付でドワンゴ辞めます 文入社に至った経緯ドワンゴには2016新卒で入社して2年10ヶ月在籍していたことになります。入社を決めた経緯としては 就職活動の時期に暇だったので Erlang を触り始めていたデブサミでちょうどドワンゴの中の人が配信基盤を Erlang で書き直してることを話してた研究室の先輩が何人か居た上記のような理由で仕事で Erlangを書くのはけっこう楽しそうだと思ったので入社することを決めました。実際にエントリーシートの志望動機には「Erlang で仕事したい」とだけ書いた記憶があります 入社後は新卒研修を終えてから無事希望していた DMC チームに配属されました。転部等もなく退職まで DMC チームに所属して多少飽きが来る程度には Erlang を書くことができたので入社した目的は達成されたと思いま

    ドワンゴを退職します
    blueboy
    blueboy 2019/01/31
     ドワンゴのネット評価。 → 「経営的に下り坂の為、賞与は奮わず離脱が頻繁に見られる状況。頑張っても報われない状態が続いている」  https://en-hyouban.com/company/10005008126/kuchikomi/3419618/     重要:http://j.mp/2BdISQC
  • Google神格化キット. Googleを神格化し、使用者に神の要素を与えるChrome拡張 | by 甲南女子大学文学部メディア表現学科/編集・インターネット研究ゼミ | Medium

    1.はじめに「Google神格化キット」は、Google[1]を既存の神に変わる存在とし、普段我々が日常的に行う。インターネット上の行為である「検索」を演出した作品である。 現在コミュニケーションや、商取引などあらゆる役割が集約されたインターネットは、社会に既存の施設やコミュニティなどのあらゆる要素を取り込み、我々の生活になくてはならないものとなっている。欲しい商品についての情報を検索し、購入までの行為を全てインターネット上でいつでもどこでも行える他、日にいながらリアルタイムで海外情勢知ることができ、友人と情報共有が手軽にできる。今やインターネットは新たなライフラインとも言えるべき存在である。 インターネットに集約されたあらゆる要素の中には宗教も入っている。島田裕巳は『スマホが神になる』で、宗教要素の一因である「コミュニティ形成」や「救済」をインターネットが担いつつある現象について「神に

    Google神格化キット. Googleを神格化し、使用者に神の要素を与えるChrome拡張 | by 甲南女子大学文学部メディア表現学科/編集・インターネット研究ゼミ | Medium
    blueboy
    blueboy 2019/01/17
     Google と God は似ているな。  Good  ではないが。
  • シリコンバレー流デザイン思考で、月収ゼロから8ヶ月で月収150万円になれた30の理由

    (30,000訪問者御礼!はてなブックマークで4位を取りました) (もし共感頂いたら文末の❤️を押していいね!お願い致します) 先日伊藤忠の同期Tと酒を飲んだ時、 “お前、やるじゃん!なかなか凄いな!”と言われたので、 もしかしたら人様の役に立つかもと思い、 ノウハウとやった事リストを公開します。 情報商材っぽいタイトルで恐縮なのですが、、 月収150万円は分かりやすい数字かと思い、あえてそうしました。 お許しください。 あと、世の中の成功者から見たら月収150万円は全く大した事ないのはよくわかっております。 ポイントは、 全く何もない状態から自営業で月収150万円作るのは結構難しい事と、 私の手法を使うと、 多くの方が同じくらいは稼げる点です。 なので、生生しいストーリーとして公開する意味はあるかと思いました。 この話は、昨年好評いただき、6000訪問者を記録した私のブログ、 “ プログ

    シリコンバレー流デザイン思考で、月収ゼロから8ヶ月で月収150万円になれた30の理由
    blueboy
    blueboy 2016/08/18
    長いので、要点は: ① もともと能力が高いこと(要・高学歴) ② 英語がペラペラであること ③ 米国へ移住すること ④ 既婚 / 以上の4点を満たした上で、米国のIT産業で猛烈に仕事をすれば、成功する。
  • プロカメラマンの価値について。「レタッチ前の写真も全て頂けますか?」に対する答え。

    by caleb kerr カメラマンとして、レタッチ過程の大切さについて思うこと。どんなカメラマンも、撮影の後に、こんな質問をされた経験があるのではないでしょうか。「いい写真が撮れましたねー。万が一あとで必要になったときのために、レタッチ前の写真も全て頂けますか?」 結論だけ言うと、答えは「いいえ」です。でも、私にとってはその理由を理解してもらうことが重要です。この記事では、レタッチ後の完成写真とレタッチ前の写真を比較してお見せします。高度な心理的テクニックを利用して(笑)、レタッチ前の写真を受け取ることに、どれだけ意味がないかをお伝えしましょう。 全ての写真を渡すことを断るのは、単に「いいえ」と言いたいからとか、面倒くさいから、という訳ではありません。よりによって、最高の写真1枚を出し惜しみしている、ということでもありません。 「でも、減るもんじゃないでしょう?」 …その答えが単純では

    プロカメラマンの価値について。「レタッチ前の写真も全て頂けますか?」に対する答え。
    blueboy
    blueboy 2016/06/11
    「素人にレタッチ前の写真を渡すと、勝手に自己流に加工して、妙に悪化させて、それを改善と見なして自慢げに吹聴するから、風評被害が生じる」というのが、本音。/レタッチ前の写真を高額有料の別料金にすればOK。
  • 「パナマ文書」解析の技術的側面

    世界中で話題になっているパナマ文書。各国で政権を揺るがすような事態にもなっていますが、純粋にデータとしてみた場合、これは計算機やデータ解析に関わる人々にも面白いものだと思います。データの中身や背景などについてはさんざん報道されていますのでここでは触れません。一方、現場でどのような作業が行われているのかはあまり報道されていません。現実的な問題として、人力ではどうしようもない量のリークデータを手に入れた場合、調査報道機関はどんなことを行っているのでしょうか?私も以前から疑問に思っていたのですが、先日あるデータベース企業と、データ分析アプリケーションを作成する会社のブログにて、その実際の一端を窺うことができる投稿がありました: Panama Papers: How Linkurious enables ICIJ to investigate the massive Mossack Fonseca

    「パナマ文書」解析の技術的側面
    blueboy
    blueboy 2016/04/10
  • Medium

    You can find (just about) anything on Medium — apparently even a page that doesn’t exist. Maybe these stories about finding what you didn’t know you were looking for will take you somewhere new?

    blueboy
    blueboy 2015/03/13
    キャッシュ http://j.mp/1Cblkac , http://j.mp/1xP2jKw
  • 1