並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 40 件 / 464件

新着順 人気順

文字列 日付 変換の検索結果1 - 40 件 / 464件

  • 個人開発で「Excel専用のWebAPI」を作りました

    どういうもの? このように関数を使ってデータを取り込めます。 背景 元々は「インターネット上のWebAPIのデータをExcelに取り込みたい」と思ったのがきっかけです。 VBAマクロを使えば簡単ではありますが、マクロは使いたくないという方も多いのではないでしょうか。かくいう私も勤務先が属人化を防ぐためにマクロの使用を推奨していません。 そこで、関数を使用する方法を選択しました。 ExcelにはWEBSERVICE 関数という指定したURLの応答データを取り込む関数があります。 しかし、この関数は大変便利な関数ですが、ExcelはHTMLやJSONのパーサーを用意していません。結局取り込んだHTMLやJSONの処理にはVBAマクロが必要になります。 また、欲しいWebAPIが存在しない問題もありました。 そこで、Excelでデータを編集するのではなく、元々のWebAPIをExcel用に作れば

      個人開発で「Excel専用のWebAPI」を作りました
    • 検索が爆速になるデータベース設計を公開します

      こんにちは。エンジニアの谷井です。 フォルシアでは、Spookと呼んでいる技術基盤を用いて、主に旅行業界やMRO業界に対して、膨大で複雑なデータを高速検索できるアプリケーションを提供しています。 今回はその高速検索のノウハウのうち、特にDBの扱いに関連する部分について、ベテランエンジニアへのインタビューを通してそのエッセンスをまとめてみました。 一般的なベストプラクティスだけでなく、検索性能を高めることに特化しためずらしいアプローチもあるので、ぜひご覧ください。 フォルシアにおける検索DBについて まず前提としてフォルシアで扱うデータについて軽く説明します。 扱うデータの複雑さ たとえば、旅行会社向けのアプリケーションであれば、宿泊素材の情報としては ホテルの情報「〇〇ホテル」(~約2万件) プランの情報「朝食付き・ロングステイ△△プラン」(0~1500件/施設) 客室の情報(~100件/

        検索が爆速になるデータベース設計を公開します
      • ChatGPT プラグイン機能一覧|しおぱん

        こんにちは。しおぱんです。ChatGPTのプラグインがあまりに多すぎて大変だったので、プラグイン機能一覧を作りました。 【お知らせ】 プラグインの増加速度が早すぎるため、記事作成が追いついておりません🙇 お急ぎの方はこの記事作成でも利用しております、こちらのプロンプトを使ってみてください🙌 【カテゴリ検索の方法】 ブラウザの検索バーに [カテゴリ名] を入力すると絞り込みできます🙆 Mac: Command + F / Windows: Ctrl + F 【カテゴリ一覧】 [エンタメ] [音楽・音声] [画像・動画] [学習] [学術] [語学] [プログラミング] [ビジネス] [マーケティング] [ファイナンス] [ニュース] [ツール] [リサーチ] [ウェブアクセス] [天気] [旅行] [レストラン] [ショッピング] [医療・健康] [不動産] [求人] [ユーティリティ

          ChatGPT プラグイン機能一覧|しおぱん
        • Appleの移動データを加工したらわかった東京の厳しい現実 - Qiita

          こんにちは、Exploratoryの白戸です。 Appleは新型コロナウイルスの対策支援として、Appleマップでの経路検索をもとにした移動傾向のデータを公開しています。ところが、残念ながらこのデータはそのままでは簡単に可視化できるようなフォーマットになっておらず、ちょっとした加工を行う必要があります。 しかし逆に、加工の仕方さえわかってしまえばそれぞれの都市や地域の移動データを可視化することで、恐怖を煽るばかりのマスコミからは見えてこない現状を理解することができるようになります。 今回はこのAppleの移動傾向データを簡単に可視化できるようにするための基本的な加工方法を、みなさんと共有させていただければと思います。 データはこちらからダウンロードすることができます。 以下は「モダンでシンプルなUIを使ってデータサイエンスができる」Exploratoryを使って、「日本で最も自粛している都

            Appleの移動データを加工したらわかった東京の厳しい現実 - Qiita
          • Value Objectについて整理しよう - Software Transactional Memo

            Value Objectとは何であるか? マーチン・ファウラーのPatterns of Enterprise Application Architecture(PofEAA)やエヴァンス・エリックのDomain Driven Design: Tackling Complexity in the Heart of Software(DDD)が原典であるが、PofEAAではこう切り出している。 When programming, I often find it's useful to represent things as a compound. プログラミング時は物をcompound(合成物)として表現すると便利なことがしばしばある。 例えば2次元空間上での座標のように複数のメンバ(属性)を持つ物は便利である、と。しかしそれらを比較する方法は一意ではない、そこで Objects that a

              Value Objectについて整理しよう - Software Transactional Memo
            • 退屈なことはPythonにやらせよう 第2版

              一歩先行くハイパフォーマンスなビジネスパーソンからの圧倒的な支持を獲得し、自作RPA本の草分けとして大ヒットしたベストセラー書の改訂版。劇的な「業務効率化」「コスト削減」「生産性向上」を達成するには、単純な繰り返し作業の自動化は必須です。本書ではWordやExcel、PDF文書の一括処理、Webサイトからのダウンロード、メールやSMSの送受信、画像処理、GUI操作といった日常業務でよく直面する面倒で退屈な作業を、Pythonと豊富なモジュールを使って自動化します。今回の改訂では、GmailやGoogleスプレッドシートの操作、Pythonと各種モジュールの最新版への対応、演習等を増補しています。日本語版では、PyInstallerによるEXEファイルの作成方法を巻末付録として収録しました。 訳者まえがき まえがき 第I部 Pythonプログラミングの基礎 1章 Pythonの基本 1.1 

                退屈なことはPythonにやらせよう 第2版
              • 「ビジネスロジック」とは何か、どう実装するのか - Qiita

                アプリケーション開発で、「ビジネスロジックは分離しろ」だとか「Controller にビジネスロジックを書くな」といったことをよく言われると思います。 しかし、ビジネスロジックという言葉の意味を聞いたり調べたりしてみても、「システムのコアの部分」とか「システムの目的になる処理をするところ」みたいなことを言われたりして、よく分かりませんでした。 そんな中、クリーンアーキテクチャや DDD の戦術的設計について学ぶことで、「ビジネスロジックとは何か」、「ビジネスロジックはどう実装するか」について、自分なりの考えが整理されてきたので、この記事ではそれをまとめます。 ※ 曖昧な言葉を自分としてどう使っているかという話になります。違う意味で使う方もいると思うので、ご注意ください ビジネスロジックとは何か 「システムのコアの部分」とか「システムの目的になる処理をするところ」といった説明も正しいとは思い

                  「ビジネスロジック」とは何か、どう実装するのか - Qiita
                • あなたの遅延はどこから? SQLから! 〜患部に止まってすぐ効くSQLレビューチェックリスト 年初め特大サービス号〜 - ANDPAD Tech Blog

                  あけましておめでとうございます! 今年は異世界放浪メシのアニメが放送されるらしいので楽しみなバックエンドの原田 (tomtwinkle)です。 内部で運用しているSQLレビューチェックリストの一部を抽出し思いつきで追記して行った結果、結構な分量になってしまいました。 暇な時でも流し読みして頂けるとありがたいです。 Motivation SQLレビュー観点 大きくSQLが変更される修正の際にはEXPLAINをレビュー内容に加える 検索のキーにINDEXを使用しているか SQL発行回数がN+1(1+N)の構造になっていないか サブクエリを利用したSQLはパフォーマンス要チェック Viewの利用は基本的に禁止 CROSS JOINは禁止 WHERE句で十分に絞った検索をしているか 必要なcolumnだけSELECTしているか レコード数だけ必要な場合にCOUNT用のSQLを発行しているか 集計関

                    あなたの遅延はどこから? SQLから! 〜患部に止まってすぐ効くSQLレビューチェックリスト 年初め特大サービス号〜 - ANDPAD Tech Blog
                  • Node.jsのMySQLパッケージにおけるエスケープ処理だけでは防げない「隠れた」SQLインジェクション - Flatt Security Blog

                    ※本記事は筆者styprが英語で執筆した記事を株式会社Flatt Security社内で日本語に翻訳したものになります。 TL;DR Node.jsのエコシステムで最も人気のあるMySQLパッケージの一つである mysqljs/mysql (https://github.com/mysqljs/mysql)において、クエリのエスケープ関数の予期せぬ動作がSQLインジェクションを引き起こす可能性があることが判明しました。 通常、クエリのエスケープ関数やプレースホルダはSQLインジェクションを防ぐことが知られています。しかし、mysqljs/mysql は、値の種類によってエスケープ方法が異なることが知られており、攻撃者が異なる値の種類でパラメータを渡すと、最終的に予期せぬ動作を引き起こす可能性があります。予期せぬ動作とは、バグのような動作やSQLインジェクションなどです。 ほぼすべてのオンラ

                      Node.jsのMySQLパッケージにおけるエスケープ処理だけでは防げない「隠れた」SQLインジェクション - Flatt Security Blog
                    • エクセルマクロのお作法(計算用シートという諸悪の根源について)

                      前置きこの日記の内容は、会社の後輩から「最近エクセルマクロを勉強し始めて(キラキラ)」という話を聞いて、先輩ムーブをかますために話した内容になります。 とにかくこれから説明する「計算用シート」が憎くて憎くてたまらず、ちょっと引かれるほど熱弁してしまいました。 ただ、他の方がどうされているのかや、逆に「計算用シート」を愛用する方の意見も聞きたくなり、増田に書いてみました。 増田の経歴中小企業の非エンジニア(事務職員)エクセルマクロ歴8年くらい 初めて触った言語がVBAで、前任が作ったエクセルマクロを改修をいきなり頼まれたのがきっかけ会社の都合でJava Script、PHPからなる社内システムの改修、保守を担当したことあり 今は趣味でPythonでNLP、LLMを勉強中この記事の趣旨エクセルマクロのお作法とか書きましたが、要するにエクセルマクロで「計算用シート」って色々な意味でよくないよね、

                        エクセルマクロのお作法(計算用シートという諸悪の根源について)
                      • システム開発でよくある「ごん、お前だったのか」現象と依存関係、そして汎用性の罠の話 | Raccoon Tech Blog [株式会社ラクーンホールディングス 技術戦略部ブログ]

                        株式会社ラクーンホールディングスのエンジニア/デザイナーから技術情報をはじめ、世の中のためになることや社内のことなどを発信してます。 マネジメント要求定義教訓ごんおま現象依存関係ツリー思考法カオスエンジニアリングフェイルファスト技術的負債 こんにちは、羽山です。 昔話には生きる上での数多くの教訓が込められています。今回は ごんぎつね からシステム設計・開発について考えてみましょう。 ごんぎつねの話はみなさんもご存じの通り、いたずらを悔いたごんぎつねが人知れず兵十という青年に贈り物を届けるも最後まで気づかれないまま火縄銃で撃たれてしまい、最後に「ごん、お前だったのか」となる話です。 さて、 達人プログラマー という書籍には 契約による設計(Design by Contract) という考え方が解説されています。 メソッドを契約として、 要求された以上のことも以下のことも行わない という考え方

                          システム開発でよくある「ごん、お前だったのか」現象と依存関係、そして汎用性の罠の話 | Raccoon Tech Blog [株式会社ラクーンホールディングス 技術戦略部ブログ]
                        • 【図解付き】エクセルのオートフィルとは?もっと便利なフラッシュフィルも解説 - まいにちdoda - はたらくヒントをお届け

                          オートフィルとは?使い方や設定方法を解説! オートフィルの使い方は簡単! オートフィルで自動入力できるデータの種類 オートフィルができないときの対処法 オートフィルの自動入力データをカスタマイズする方法 オートフィルよりもさらに賢い「フラッシュフィル」とは?オートフィルと何が違うの? フラッシュフィルの使い方 方法1:「データ」タブ→データツール内にある「フラッシュフィル」を選択 方法2:オートフィル実行後、「オートフィルオプション」を右クリックし「フラッシュフィル」を選択 方法3:フラッシュフィルのショートカットキー「Ctrl+E」を使う フラッシュフィル活用術!ほかにもこんな使い方ができる 漢字だけじゃなく、ローマ字でもフラッシュフィルが使える フラッシュフィルで電話番号の一部だけを抜き出す フラッシュフィルでメールアドレスの一部を抜き出す フラッシュフィルで都道府県と市区町村を結合さ

                            【図解付き】エクセルのオートフィルとは?もっと便利なフラッシュフィルも解説 - まいにちdoda - はたらくヒントをお届け
                          • 覚えれば一生もの! ウェブエンジニアのための正規表現活用入門 - ICS MEDIA

                            正規表現は文字列の検索や置換を行うための強力で便利なツールです。基本をマスターすれば開発から日常の事務作業までさまざまな場面でラクをできる魔法の道具ですが、見た目がちょっと分かりづらいので、避けている方もいるのではないでしょうか? 筆者の個人的観測ですが、とりわけフロントエンドのエンジニアには正規表現に苦手意識を感じている方が多いようです。 この記事では正規表現の基本と、正規表現がどこで使えてどれだけ便利になるのかを紹介します。 正規表現の基本:正規表現ってそもそも何? 正規表現(regular expression)は、ごく簡単にいえば「さまざまな文字列のバリエーションをひとつの文字列で表現したもの」です。たとえば、郵便番号の7桁の数字には(実際に使われていないものも含めれば)一千万通りのバリエーションがありますが、正規表現を使えば次のようにひとつの文字列で表現できます。 ▼「7桁の数字

                              覚えれば一生もの! ウェブエンジニアのための正規表現活用入門 - ICS MEDIA
                            • NoSQLデータモデリング技法 · GitHub

                              NoSQLデータモデリング技法.markdown #NoSQLデータモデリング技法 原文:NoSQL Data Modeling Techniques « Highly Scalable Blog I translated this article for study. contact matope[dot]ono[gmail] if any problem. NoSQLデータベースはスケーラビリティ、パフォーマンス、一貫性といった様々な非機能要件から比較される。NoSQLのこの側面は実践と理論の両面からよく研究されている。ある種の非機能特性はNoSQLを利用する主な動機であり、NoSQLシステムによく適用されるCAP定理がそうであるように分散システムの基本的原則だからだ。一方で、NoSQLデータモデリングはあまり研究されておらず、リレーショナルデータベースに見られるようなシステマティック

                                NoSQLデータモデリング技法 · GitHub
                              • ホームページ- EY-Office

                                小ネタです、JavaScriptで本日の日付をYYYY-MM-DD形式で得るコードは案外面倒です。 本日2023年4月17日なら 2023-04-17 という文字列を得るコードはRubyならTime.now.strftime("%Y-%m-%d")、Pythonならdatetime.today().strftime("%Y-%m-%d")(importは省略しました)と簡単に書けますが、JavaScriptでは案外面倒なのです。 追記: いくつかの間違いのご指摘がありましたので修正しました(2023-04-19)。 DeepAIが生成した画像です いっけん正しいようで間違ったコード new Date().toISOString().slice(0,10) new Date()で本日の日時を取得します toISOString()メソッドは日時データをISO形式の文字列に変換します、例えば 2

                                  ホームページ- EY-Office
                                • 使いやすさを重視したHTMLスクレイピングライブラリを作った - 純粋関数型雑記帳

                                  TL:DR レポジトリ https://github.com/tanakh/easy-scraper ドキュメント 背景 このところ訳あってRustでHTMLからデータを抽出するコードを書いていたのですが、 既存のスクレイピングライブラリが(個人的には)どれもいまいち使いやすくないなあと思っていました。 HTMLから望みのデータを取り出すのはいろいろやり方があるかと思いますが、 ツリーを自力でトラバースするのはさすがにあまりにも面倒です。 近頃人気のライブラリを見てみますと、CSSセレクターで目的のノードを選択して、 その周辺のノードをたどるコードを書いて、 欲しい情報を取り出すという感じのものが多いようです。 RustにもHTMLのDOMツリーをCSSセレクターで検索して見つかったノードをイテレーターで返してくれたりする、 scraperというライブラリがあります。 例えば、<li>要素

                                    使いやすさを重視したHTMLスクレイピングライブラリを作った - 純粋関数型雑記帳
                                  • 「YAMLの本来の使い方」を仕様から読み取ってみる | Wantedly Engineer Blog

                                    YAMLは「便利なJSON」として使われることが多い一方、その複雑性から落とし穴も多く、しばしば批判の対象になります。 なぜYAMLはそこまで複雑なのでしょうか? その背景のひとつは、本来のYAMLがJSONとは大きく異なる目的意識で作られているからです。 本稿ではYAML specに従う形でYAMLのコンセプトを解説することを目指します。残念ながら、ここに書かれているYAMLの思想は実際には実用されているとは言い難いですし、これらの背景を理解しても「YAMLは複雑だ」という事実がひっくり返ることはないでしょう。それでも、YAMLの複雑さの源泉を体系的に理解し、YAMLとほどほどの距離感で付き合う助けにはなるのではないかと思います。 この記事ではこういう話をしますYAMLはJSONとは独立に、異なる目的で生まれた野心的な仕様であるアンカーやタグなどの強力な構文は、これらの目的を満たすために

                                      「YAMLの本来の使い方」を仕様から読み取ってみる | Wantedly Engineer Blog
                                    • 9時間足すんだっけ引くんだっけ問題~あるいは、諸プログラミング言語はいかにタイムゾーンと向き合っているか - エムスリーテックブログ

                                      私は日付時刻の処理が大好きです。 タイムゾーンの問題でデータ抽出が9時間分漏れていたとか、朝9時の始業前のログが昨日付けになってしまっていたなんていう問題が起こると喜んじゃうタイプ。 そんな私にとって、各プログラミング言語が標準で持っている日付時刻型クラスにはそれぞれ思うところがあり、今日はちょっとその品評会をしてみたいと思います。 エムスリーエンジニアリンググループ、Unit1(製薬企業向けプラットフォームチーム)三浦(@yuba@reax.work) [記事一覧 ]がお送りいたします、エムスリー Advent Calendar 2023の2日目です。 至高の日付時刻型を持つ言語、BigQuery SQL 不足はないが蛇足、Java 8 日付時刻で画竜点睛を欠いたC# C#よりややまし、Python 型は良い構成、なのに命名と処理関数で損しているPostgreSQL まとめ We ar

                                        9時間足すんだっけ引くんだっけ問題~あるいは、諸プログラミング言語はいかにタイムゾーンと向き合っているか - エムスリーテックブログ
                                      • 母校の大阪市立大学(大阪公立大学)の大学生からTwitterで「ガイジ」「池沼」などの誹謗中傷を受けたので慰謝料請求事件として民事訴訟で裁判を起こして勝訴した話|あると

                                        母校の大阪市立大学(大阪公立大学)の大学生からTwitterで「ガイジ」「池沼」などの誹謗中傷を受けたので慰謝料請求事件として民事訴訟で裁判を起こして勝訴した話 一度は削除しましたが、このようなことが二度と起きてほしくない、起きてはならないという思いから、また、証拠の保全を目的として、この記事を再び公開することにしました。 この記事は有料に設定していますが、無料で全文が読めます。なお、字数は全体で40,000を超過しています。 事の発端 「ホームレスを支援するのは”無駄”なのか?」 2022年8月17日(水)の、日付が変わる直前。社会的弱者の排除を支持するツイートを目にした私は、ふと疑問に思い、何気なくツイートをした。そして、この投稿から全てが始まった。 当時、相互フォローをしていた、私が卒業した大阪市立大学(大阪公立大学)に在籍する法学部生のlaw害(ろうがい)氏(@aaaa_sogg)

                                          母校の大阪市立大学(大阪公立大学)の大学生からTwitterで「ガイジ」「池沼」などの誹謗中傷を受けたので慰謝料請求事件として民事訴訟で裁判を起こして勝訴した話|あると
                                        • 「Excelのおせっかい」のせいで人間の遺伝子の名前が変更を余儀なくされる

                                          Excelで「1-1」のように入力するだけで自動的に「1月1日」と変換してくれる機能は時には便利ですが、単純に「1-1」と入力したかった場合はおせっかいに感じることも。実際に、この機能による「人間の遺伝子の略称を勝手に日付に変換してしまう」という問題が遺伝子学者を悩ませており、ついに科学者側が根負けして遺伝子の名前が変更されることになったと報じられています。 Scientists rename human genes to stop Microsoft Excel from misreading them as dates - The Verge https://www.theverge.com/2020/8/6/21355674/human-genes-rename-microsoft-excel-misreading-dates Excelが文字列を勝手に変更し、使用者の意図しない表記

                                            「Excelのおせっかい」のせいで人間の遺伝子の名前が変更を余儀なくされる
                                          • なぜシェルスクリプトで高度なデータ管理にSQLiteを使うべきなのか? ~ UNIX/POSIXコマンドの欠点をSQLで解決する

                                            なぜシェルスクリプトで高度なデータ管理にSQLiteを使うべきなのか? ~ UNIX/POSIXコマンドの欠点をSQLで解決するShellScriptUNIXSQLitePOSIXQiitadelika 「利用者は数十億人!? SQLiteはどこが凄いデータベース管理システムなのか調べてみた」の続きです。 はじめに 複雑な構造のデータを扱うのであればシェルスクリプトや Unix (POSIX) コマンドでデータ管理を行うのは避けるべきだと思います。解決不可能な問題が多いからです。しかしそれでも何かしらの理由でやろうと考える(やらなければいけない)のであれば SQLite を使うのをおすすめします。シェルスクリプトや Unix コマンドは行単位の単純なテキストデータをシーケンシャルにデータ処理するのが前提となっており、改行や空白が含まれるデータや複雑な構造のデータ扱うのは苦手です。またシェル

                                              なぜシェルスクリプトで高度なデータ管理にSQLiteを使うべきなのか? ~ UNIX/POSIXコマンドの欠点をSQLで解決する
                                            • RAGの性能を改善するための8つの戦略 | Fintan

                                              近年、OpenAIのGPT-4やGoogleのGemini、MetaのLLaMAをはじめとする大規模言語モデル(Large Language Model:LLM)の能力が大幅に向上し、自然言語処理において優れた結果を収めています[1][2][3]。これらのLLMは、膨大な量のテキストデータで学習されており、さまざまな自然言語処理タスクにおいて、タスクに固有なデータを用いてモデルをファインチューニングすることなく、より正確で自然なテキスト生成や、複雑な質問への回答が可能となっています。 LLM-jp-eval[4]およびMT-bench-jp[5]を用いた日本語LLMの評価結果。Nejumi LLMリーダーボード Neoより取得。 大規模言語モデルは近年急速な進歩を遂げていますが、これらの進歩にもかかわらず、裏付けのない情報や矛盾した内容を生成する点においては依然として課題があります。たとえ

                                                RAGの性能を改善するための8つの戦略 | Fintan
                                              • OneNoteで仕事を効率化する8つの便利機能 | ライフハッカー・ジャパン

                                                1. テキストをワンクリックで翻訳Screenshot: 酒井麻里子 via OneNoteノート内のテキストは、外部サイトを使うことなく簡単に翻訳が可能。 翻訳したい箇所を選択した後、「校閲」タブの「翻訳」ボタンから「選択した文字列の翻訳」をクリック。右側にウィンドウが開き、翻訳結果が表示されます。 言語はドロップダウンリストから変更でき、「挿入」をクリックすれば現在のマウスカーソルの位置に翻訳結果を挿入できます。 なお、無料の「OneNote for Windows 10」や「OneNote for Mac」の場合は、「表示」タブ内に翻訳ボタンがあります。こちらのバージョンでは選択部分の翻訳に加えて、ページ全体を翻訳することも可能です。 2. 画像を固定して上から文字を書くScreenshot: 酒井麻里子 via OneNoteOneNoteに画像を挿入し、その上に手書き入力モードで

                                                  OneNoteで仕事を効率化する8つの便利機能 | ライフハッカー・ジャパン
                                                • React界隈で話題になっている「React Server Components」についてまとめました! | DevelopersIO

                                                  どうもReact大好きCX事業部の片岡です! 今回はReact界隈で話題になっている「React Server Components」についての内容を意訳してみました。 元ネタ 話題になっているこちらの記事が元ネタです。 https://reactjs.org/blog/2020/12/21/data-fetching-with-react-server-components.html 概要 Fetch APIでデータをやり取りすると、バケツリレーが発生します。例えば、Spotifyのアーティストページにはアーティストの情報と人気の曲とアルバム一覧が並びます。この時、人気の曲とアルバム一覧を取得するには、アーティスト情報を取ってこないといけません。そうすると、アーティスト情報を取得している間と人気の曲・アルバム一覧を取得するまでにクライアントサイドとサーバーサイドで無駄な待機時間が出来てし

                                                    React界隈で話題になっている「React Server Components」についてまとめました! | DevelopersIO
                                                  • Kaggleで戦いたい人のためのpandas実戦入門 - ML_BearのKaggleな日常

                                                    はじめに 自分は元々pandasが苦手でKaggleコンペ参加時は基本的にBigQuery上のSQLで特徴量を作り、最低限のpandas操作でデータ処理をしていました。 しかし、あるコードコンペティションに参加することになり、pythonで軽快にデータ処理をこなす必要が出てきたので勉強しました。 そこで、当時の勉強メモをもとに「これだけ知っていればKaggleでそこそこ戦えるかな」と思っているpandasの主要機能をまとめました。 注記 実戦入門 のつもりが ほぼ辞書 になってしまいました orz pandasとはなんぞや的な内容は書いていません (import pandasやDataFrameとは何かなど) pandas1.0系でも動くように書いたつもりですが間違ってたらすみません 目次 はじめに 注記 目次 Options DaraFrame 読み書き CSVファイル 読み込み 書き出

                                                      Kaggleで戦いたい人のためのpandas実戦入門 - ML_BearのKaggleな日常
                                                    • 【Power Automateの新しいRPA機能】Power Automate Desktopで出来ること(全33機能の紹介) - Qiita

                                                      【Power Automateの新しいRPA機能】Power Automate Desktopで出来ること(全33機能の紹介)RPAPowerAutomateDesktop はじめに Microsoft Igniteの発表でPower Automateの「per user with attended RPA plan」で「Power Automate Desktop」が使用できるようになりました。2020年9月26日時点でPreview機能です。 この記事ではPower Automate Desktopの自動化機能(アクションと言います)を紹介します。 この紹介を通じPower Automate Desktopがどのような自動化を行えるかの参考になれば幸いです。 2020年9月26日時点のアクションとなります。 トライアル開始手順もまとめてみましたので併せてご覧ください。 【Power A

                                                        【Power Automateの新しいRPA機能】Power Automate Desktopで出来ること(全33機能の紹介) - Qiita
                                                      • Markdown(マークダウン)をVSCodeの拡張機能とスニペットで効率良く書く - Qiita

                                                        Markdownをはやく効率よく書くために 前提として、マークダウンを編集するエディタはVSCodeを使います。 Markdownファイルを使って記事を管理している場合、マークダウンを効率良く書けるかどうかは生産性に直結します。 VSCodeの拡張機能と基本設定(スニペット)を使ってマークダウンを速やかに編集する方法について書いていきます。 よく使う機能にフォーカスしてその操作をイメージできる一般的なショートカットキーを使う(覚える)のがポイントです。 拡張機能があるならそれを使う Markdown All in One ショートカットや便利なコマンドが有効になる拡張機能です。たくさんの機能がありますが、利用頻度が高いものだけ使います。 太字にするショートカット テキストを選択した状態で、Macなら ⌘ + B 、Windowsなら Ctrl + B で太字になります。多くのエディタで採用

                                                          Markdown(マークダウン)をVSCodeの拡張機能とスニペットで効率良く書く - Qiita
                                                        • はてなブログの DB を RDS for MySQL 8.0 にアップグレードした話 - Hatena Developer Blog

                                                          この記事は、はてなエンジニア Advent Calendar 2023の2024年1月17日の記事です。 はてなエンジニア Advent Calendar 2023 - Hatena Developer Blog id:hagihala です。先日、はてなブログの DB を RDS for MySQL 5.7 から 8.0 へアップグレードしたので、工夫した点などを共有します。 Aurora MySQL 3.x にしなかった理由 MySQL 5.7 -> 8.0 で対応した変更点 character set や collation のデフォルトが変更される explicit_defaults_for_timestamp がデフォルトで有効になる SQL mode の変更 デフォルトの認証プラグインが caching_sha2_password になり、 mysql_native_passw

                                                            はてなブログの DB を RDS for MySQL 8.0 にアップグレードした話 - Hatena Developer Blog
                                                          • GitHub Actions ことはじめ - tech.guitarrapc.cóm

                                                            GitHub Actions 以前調べたのですが、いろいろあって個人プロジェクトでサクッとビルドするのみに使っていました。 今回改めて調べを進めたのでメモ。 幾つかのリポジトリを GitHub Actions に移行したけど、記事にしようとまとめてたらやった内容以上に調べることになってめちゃめちゃ時間かかった。 目次 目次 TL;DR トレンド GitHub Actions の基本 使用条件 使用制限 料金 ホストランナーの指定 ハードウェアリソース インストールされるツール IP OSの選択 実行権限 ファイルパス 環境変数 シークレット GITHUB_TOKEN コンテキスト Artifact トリガーイベント Cache Actions 通知 YAML Getting started YAMLシンタックス on env jobs.<job_id>.needs jobs.<job_id

                                                              GitHub Actions ことはじめ - tech.guitarrapc.cóm
                                                            • 知らなきゃ損! Macの隠された機能と裏技ベスト6を大公開【今日のワークハック】 | ライフハッカー・ジャパン

                                                              今日のワークハック:Macの新常識を身につけて身軽に働く1. 気が散る通知をオフにするチャットやソーシャルメディアの通知で気が散るのを防ぎたいなら、Macでは「おやすみモード」機能を使うことができます。 やるべきタスクを片付ける、ゲームをプレイする、あるいはお気に入りのドラマの見逃した回をまとめて見ている──そんな時に「何度も通知がポップアップ表示されて集中できない」といった状況を想像してみてください。 幸い、Macの「おやすみモード」機能を使えば、今やっていることから気持ちがそれるのを防げます。 手早くこのモードをオンにしたい時は、Macの画面上にあるメニューバーの、日付や時間表示の左隣にあるトグルボタンのアイコンをクリックして、[コントロールセンター]を開きましょう。 次に、[おやすみモード]セクションのどこかをクリックし、表示されたドロップダウンメニューにある[おやすみモード]を選択

                                                                知らなきゃ損! Macの隠された機能と裏技ベスト6を大公開【今日のワークハック】 | ライフハッカー・ジャパン
                                                              • 2019-nCoVについてのメモとリンク

                                                                リンク集目次 国内外の状況 政府機関・国際機関等 学術情報 疫学論文 分子生物学/ウイルス学論文 臨床論文 インフォデミック関係 ワクチン関係 変異株関係 時系列メモ目次 新型コロナウイルス(2020年1月6日,11日) インペリグループによる患者数推定(2020年1月18日) 患者数急増,西浦さんたちの論文(2020年1月20日,23日) WHOはPHEIC宣言せず(2020年1月23-24日) 絶対リスクと相対リスク(2020年1月26日) 研究ラッシュが起こるかも(2020年1月27日) なぜ新感染症でなく指定感染症なのか? なぜ厚労省令でなく閣議決定なのか?(2020年1月27日) コロナウイルスに対する個人防御(2020年1月27日) 国内ヒト=ヒト感染発生(2020年1月28日) フォローアップセンター設置,緊急避難等(2020年1月29日) PHEICの宣言(2020年1月3

                                                                • 冪等なデータ処理ジョブを書く - クックパッド開発者ブログ

                                                                  こんにちは、マーケティングサポート事業部データインテリジェンスグループの井上寛之(@inohiro)です。普段はマーケティングに使われるプライベートDMP(データマネジメントプラットフォーム)の開発を行っています。本稿では、その過程で得られた冪等なデータ処理ジョブの書き方に関する工夫を紹介したいと思います。今回は、RDBMS上で SQL によるデータ処理を前提に紹介しますが、この考え方は他の言語や環境におけるデータ処理についても応用できるはずです。 まずクックパッドのDMPと、冪等なジョブについて簡単に説明し、ジョブを冪等にするポイントを挙げます。また、SQL バッチジョブフレームワークである bricolage を使った、冪等なジョブの実装例を示します。 クックパッドのDMPと冪等なジョブ クックパッドのプライベートDMPは、データウェアハウス(社内の巨大な分析用データベースで、クックパ

                                                                    冪等なデータ処理ジョブを書く - クックパッド開発者ブログ
                                                                  • VRChatのすべて(すべてではない) - Narazaka::Blog

                                                                    VRChat口伝ノウハウ結構膨大にある気がするので、思いつくものを一度一括で吐き出してみようというやつです。 これを読めばVRChatの全てが分かる!!(大嘘 基本的にリンク集+αという感じですが、めちゃくちゃ色々手を広げて書いているので間違ってるとこ見つけたらコメントに書いてください。 なおこの記事はVRChat Advent Calendar 2020の6日目、VRChat Advent Calendar 2021の9日目のやつです。 adventar.org adventar.org 2021年色々更新してきて8万文字も超え、情報が当初の倍ちかくにはなったんじゃないかと思います。2022年もやっていくぞ。 本記事以外の「すべて」 本記事は主にVRChatに入ってからの生活面にフォーカスしたものですが、本記事以外の「すべて」系記事もあるのでご活用下さい。 「VRChatのアバタートラブ

                                                                      VRChatのすべて(すべてではない) - Narazaka::Blog
                                                                    • PHPでログファイルへの読み書きを通して任意コード実行をする方法 - knqyf263's blog

                                                                      以前少し話題になったLaravelのデバッグモード有効時の脆弱性であるCVE-2021-3129のPoCを読んでいたのですが、思ったより難しくて何でこんなことをしているんだろうと思ったら発見者による解説ブログがありました。読んでみたらバイパスのために思ったより色々していて普通に勉強になったのでメモを残しておきます。CTFerからすると常識な内容かもしれないので、何か間違いや補足があれば指摘をお願いします。 www.ambionics.io 前提知識1 前提知識2 本題 問題点 = によるエラー 日付のデコード ログファイル内の他エントリ バイパス方法 consumedの利用 iconvの利用 パディングの利用 UTF-16のための調整 NULLバイトの回避 最終形 まとめ 前提知識1 上の脆弱性を理解するためにはいくつかの前提知識を必要とするため最初にまとめておきます。 まず、PHPでは外

                                                                        PHPでログファイルへの読み書きを通して任意コード実行をする方法 - knqyf263's blog
                                                                      • Pythonによるファイナンス(第2版)を読んだ感想 - 虎の穴開発室ブログ

                                                                        こんにちは!虎の穴ラボのNSSです。 虎の穴ラボではオライリー・ジャパン社の定期購読サービスを利用しており、 毎月新刊をいち早く読めるようになっています。 今回は12/24に刊行された「Pythonによるファイナンス(第2版)」を読んだ感想を共有したいと思います。 www.oreilly.co.jp 読もうと思ったきっかけ 数年前から少しだけ投資をしていたので、タイトルから興味を惹かれました。 Pythonを使って自分の投資ポートフォリオを評価したり、自動取引ができたら楽しそうだと思いました。 目次 目次 日本語版まえがき まえがき 第1部  Pythonとファイナンス 1章 なぜファイナンスにPythonを使うのか 1.1 プログラミング言語Python 1.1.1 Pythonの大まかな歴史 1.1.2 Pythonエコシステム 1.1.3 Pythonのユーザ層 1.1.4 科学スタ

                                                                          Pythonによるファイナンス(第2版)を読んだ感想 - 虎の穴開発室ブログ
                                                                        • MySQL (MariaDB) でハマった仕様 - kamocyc’s blog

                                                                          以前,MySQL (正確にはMariaDB) を使った際,いろいろはまったので記載します. 使ったバージョンが古い(MariaDB 10.1.37, MySQL 5.7くらいに相当)なので,最新版では治っているところもいくつかあります. sql_modeをデフォルトの設定で使わない これはよく言われていることですが,sql_modeがデフォルトでは変な値が入ったりエラーになって欲しいところがスルーされたりしてまずいので,適切なsql_modeを設定します. 第18回 MySQL5.7のデフォルトのSQLモードを確認してみる:MySQL道普請便り|gihyo.jp … 技術評論社 MySQLのSQLモードをstrictモードで設定する。 - Qiita ただ,MySQL 5.7以降はデフォルト設定が改善されたようです.(でも確認すべきですが) MySQL :: MySQL 8.0 Refer

                                                                            MySQL (MariaDB) でハマった仕様 - kamocyc’s blog
                                                                          • 1日1問、半年以内に習得 シェル・ワンライナー160本ノック

                                                                            2021年9月27日紙版発売 2021年9月22日電子版発売 上田隆一,山田泰宏,田代勝也,中村壮一,今泉光之,上杉尚史 著 B5変形判/488ページ 定価3,520円(本体3,200円+税10%) ISBN 978-4-297-12267-6 Gihyo Direct Amazon 楽天ブックス ヨドバシ.com 電子版 Gihyo Digital Publishing Amazon Kindle 楽天kobo honto この本の概要 シェルのワンライナー(その場かぎりの1行プログラム)は,LinuxやMacのコマンドラインインターフェースを立ち上げたら,すぐにプログラムを書いて即実行できます。ちょっとした作業を手っ取り早く片付けるのに向いています。大量のデータ処理,繰り返し処理ほどその効果は絶大です。本書は,そんなシェル・ワンライナーを身につけるためのトレーニング本です。大量の問題を

                                                                              1日1問、半年以内に習得 シェル・ワンライナー160本ノック
                                                                            • Alfredを使いこなせてない君に!【Alfredの使い方完全版】 - Qiita

                                                                              最初に こんにちは、jackです。 実は先日社内講習会にて、「Alfredによる業務効率化」という発表をしたところ思いの外反響があったので、それを記事にしてしまおうということで書いていきます。 タイトルにもある「完全版」という名の通りこの記事は、まだAlfredを知らない方から、聞いたことあるって方、使ってはいるけどの使いこなせてない人まで、これさえ見れば誰でもAlfredマスターになれる方法を紹介していきます。 また、私の思う最強の使い方もいくつか紹介できればなと思います。 目次 Alfredとは インストール方法 基本機能 App Launcher ファイル検索 Alfredがすごいのはここから ブックマーク検索 システム操作 おすすめ! Powerpack(有料版)のすごさ Powerpackライセンスの種類 Clipboard History Snippets Workflows

                                                                                Alfredを使いこなせてない君に!【Alfredの使い方完全版】 - Qiita
                                                                              • GoとDynamoDBを用いた開発で反省していること | フューチャー技術ブログ

                                                                                はじめにTIG真野です。失敗談をテーマにした連載で、ちょうどプロダクト開発的に良い区切りのタイミングでもあるため、振り返りがてら、DynamoDB,Go,AWS Lambdaの技術要素について自分自身の理解・見込みの甘さについて反省します。 DynamoDBのシステム項目created_atとかupdated_atのタイムゾーンはJSTにすれば良かったDynamoDBは日付型を直接サポートしておらず、文字列型で保存することになります。 https://docs.aws.amazon.com/amazondynamodb/latest/developerguide/HowItWorks.NamingRulesDataTypes.html#HowItWorks.DataTypes.String データサイズや諸々の理由でUnixTime 勢力もあるかもしれませんが、アプリケーションから直接参照

                                                                                • 第1回「書くこと」はなぜ難しいのか? - 苦しみの執筆論 千葉雅也×山内朋樹×読書猿×瀬下翔太:アウトライナー座談会 | ジセダイ

                                                                                  思考を階層的に整理することによって、「書くこと」と「考えること」の強力な武器となるツール、「アウトライナー」。普段からアウトライナーを利用して執筆をおこなっている、哲学者・千葉雅也さん、美学者・山内朋樹さん、読書家・読書猿さん、編集者/ディレクター・瀬下翔太さんの4名に集まっていただき、執筆論や思考術などなど、縦横無尽に議論を交わしていただきました。(全3回) この対談が書籍化されました! ーーーーーーーーーーーーーーーーーーーーーーーーー 『ライティングの哲学 書けない悩みのための執筆論』 著/千葉雅也、山内朋樹、読書猿、瀬下翔太 カバー装画/あらゐけいいち 定価:1100円(税別) 
レーベル:星海社新書 ーーーーーーーーーーーーーーーーーーーーーーーーー ――本日は「アウトライナー座談会」と題して、千葉雅也さん、山内朋樹さん、読書猿さん、瀬下翔太さんの4名にお集まりいただきました。こ

                                                                                    第1回「書くこと」はなぜ難しいのか? - 苦しみの執筆論 千葉雅也×山内朋樹×読書猿×瀬下翔太:アウトライナー座談会 | ジセダイ