タグ

ブックマーク / eng-blog.iij.ad.jp (14)

  • 1つの大きなLLM(大規模言語モデル)を複数のGPUで力を合わせて動かそう | IIJ Engineers Blog

    地方拠点の一つ、九州支社に所属しています。サーバ・ストレージを中心としたSI業務に携わってましたが、現在は技術探索・深堀業務を中心に対応しています。 2018年に難病を患ったことにより、定期的に入退院を繰り返しつつ、2023年には男性更年期障害の発症をきっかけに、トランスジェンダーとしての道を歩み始めてます。 LLM群雄割拠の時代 昨今、ローカルGPUで駆動できるようなLLM(大規模言語モデル)もかなり増えてきて、キャッチコピー的に「ついに我が家にもGPT-4が!」とか言われるようになってまいりました。パラメータ規模で言えば70億~130億(7B-13B)パラメータ、700億(70B)パラメータ、1400億(140B)パラメータあたりのモデルが活発にリリースされているように見受けられます。 大きなモデルをGPU寄せ集めしつつ遊びたい! しかしながら、コンシュマー向けのGPUにおいては、7B

    1つの大きなLLM(大規模言語モデル)を複数のGPUで力を合わせて動かそう | IIJ Engineers Blog
  • ひとり情シスの味方!お手軽社内サーバ監視・リモートデスクトップ接続 | IIJ Engineers Blog

    データセンター・エンジニアリング関連サービスの企画と開発を担当。もともとアプリ開発でスクラムマスターを経験しアジャイルに造詣が深く、世界のDX推進をインフラ設備から支えたいと考えている。 私の所属するチーム(基盤エンジニアリング部基盤サービス部サービス開発課)では、DX edgeというエッジデータセンターソリューションを開発・運用しています。お客様の社内に設置したエッジデータセンターをIIJが遠隔で運用保守するマネージドサービスも提供しています。リモートから監視・運用するために、IIJ IoTサービスを活用した運用保守用のリモートアクセスする仕組みとゲートウェイ機器(リモートアクセスボックス)を開発しました。 先日、あるお客様から手軽に社内サーバへアクセスするためにこの仕組みが便利そうなので譲ってくださいとお願いされました。そこで、このリモートアクセスボックスを提供したところとても高評価

    ひとり情シスの味方!お手軽社内サーバ監視・リモートデスクトップ接続 | IIJ Engineers Blog
  • Linux カーネルをバイパスして TCP 通信を 10 倍速くする | IIJ Engineers Blog

    IIJ 2023 TECHアドベントカレンダー 12/16の記事です】 この記事について 背景:TCP はコンピュータネットワークの通信において広く利用されているプロトコル・標準化された通信規格です。コンピュータは TCP/IP スタックと呼ばれるようなソフトウェアを実行することで、定められた規格に則って通信を行います。汎用 OS 環境では、TCP/IP スタックは多くの場合、カーネル空間に OS 機能の一部として実装されています。 課題:通信に関するソフトウェアの研究コミュニティでは、そのようなカーネル空間に実装されている TCP/IP スタックは、近年の高速な NIC の性能を十分に引き出すことが難しいという課題が指摘されてきました。 テクニックの紹介:当記事では、近年の研究コミュニティにおいて比較的一般的な高速化テクニックとされている「カーネルをバイパス(迂回)して TCP 通信を

    Linux カーネルをバイパスして TCP 通信を 10 倍速くする | IIJ Engineers Blog
  • Starlink(スターリンク)で自宅サーバ、IPv6ならできます! | IIJ Engineers Blog

    Starlinkで自宅サーバを実現するには、CGNAT経由で接続されている環境をなんとかするしかありません。またIPv6が使えるようになってグローバルユニキャストアドレスが使えるようになりましたがインターネット側から接続する事はできませんでした。しかし構成を少し変更する事でIPv6なら自宅サーバが実現できる事がわかりました。 今回はStarlinkのネットワークについてあらためて調査した結果と自宅サーバを実現する方法を紹介します。IPv6を使うとこれまでのCGNAT配下という制約から解放されたインターネットの世界が広がります、是非お付き合いください。 過去ブログもよろしくお願いします。 Starlink(スターリンク)がやってきたのでネットワークを調べました Starlink(スターリンク)の遅延を日アメリカドイツで長期収集しています Starlink(スターリンク)のネットワーク、

    Starlink(スターリンク)で自宅サーバ、IPv6ならできます! | IIJ Engineers Blog
  • 自宅のパソコンにLTOドライブを載せてみた | IIJ Engineers Blog

    ※ 注意事項と補足 LTOの世代には互換性があり、対応するテープを用意しないと認識しません。 互換性表:https://lto.co.jp/lto-gokan.html 今回はLTO5のドライブを利用しているのでLTO4~5のテープは読み書きが行え、LTO3のテープは読み込みのみが行えます LTO5以降の世代はLTFSを利用することができるため、SDカードみたいな感じで利用できます。 ゆえにWindows機でもそれほど難なく導入できるという 素材たち 物理構築 SASカードをPCIeに差し込み、変換ケーブルを介してLTOドライブに繋げます。(ホコリっぽくてごめんなさい) LTOドライブ電源用の端子は電源ユニットから伸びている適当な端子を引っ張ってきます。 完成 いきなりドライブベイに差し込むとなんかあったときに面倒なので、毎度おなじみ半開き状態でテストします。 起動&初期設定 起動 まず、

    自宅のパソコンにLTOドライブを載せてみた | IIJ Engineers Blog
  • SEILとMPCでつくる自宅サーバ用ネットワーク | IIJ Engineers Blog

    SMF系サービスの開発・運用を担当しています。趣味は自宅サーバやアマチュア無線。systemdでできることはsystemdにやらせたい派です。 【IIJ 2022 TECHアドベントカレンダー 12/19(月)の記事です】 初めまして。梅津です。2021年に新卒入社し、SMFsxやMPCといったSEILを管理するためのSMF系サービスの開発、運用を担当しています。 長年趣味として自宅サーバを楽しんできましたが、回線工事ができずアパート提供のインターネットしか選択肢がなかったため自宅サーバをインターネットに出せなくなってしまいました。この問題をIIJ製のルータであるSEILと、これを管理するMPCを使うことで解消しました。 今回はその問題を解消するための設定例について紹介いたします。 また、クリスマスには少し早いですが、記事の最後に、SEIL/x86 Ayame スタンダードエディションを

    SEILとMPCでつくる自宅サーバ用ネットワーク | IIJ Engineers Blog
  • 我が家のおうちKubernetesの成長記録 | IIJ Engineers Blog

    IIJ 2021 TECHアドベントカレンダー 12/16(木)の記事です】 IIJ Raptorサービス部のエンジニア、RyuSAです。普段はアプリケーションの実装やアーキテクチャ、最近はKubernetesを使った業務を担当しています。 私事ですが、先日IIJの制度として発表された「セレクトジョブ」に参加し、SRE推進部という部署に兼務するようになりました!>  IIJ、社員の自律的なキャリア形成を支援する公募型兼務制度「セレクトジョブ」を開始 | IIJについて | IIJ さて題に入りますが……自分は今年の春に「おうちKubernetes」を植え、自宅で育ててきました。 > おうちKubernetesを構築した話 – メモ – RyuSA (hatenablog.com) 残念ながら自分の家庭はサーバラックがあるような、俗に言う「逸般の誤家庭」ではないためできることはかなり限ら

    我が家のおうちKubernetesの成長記録 | IIJ Engineers Blog
  • 3000円で作るGPSロガーシステム(M5Atom+GPSモジュール+クラウド完全無料枠) | IIJ Engineers Blog

    IIJ 2020 TECHアドベントカレンダー 12/13(日)の記事です】 はじめに 早いもので気が付けば2020年も終わりですね。 今年は自宅で過ごすことも多く、今までとは違う時間の使い方をした方も多くいたのでは?と思います。 こんな時こそ、童心に戻ってお金をかけずに大人の工作を始めてみませんか? ここではAtomicGPSを使ってGPSロガーとそれを可視化するツールを作ってみたいと思います。 AtomicGPSとは M5Stack、M5Atomシリーズご存じですか? 5cm四方の小箱(M5Atomは2.5cm四方)に、ディスプレイ、Wi-FiBluetooth、スピーカー、ボタンなどが装備されており、拡張モジュールを追加することで様々なセンサー情報を取得できるマイコンです。 特筆するのはその値段で兄貴分のM5Stackシリーズが約2000円~、M5Atomシリーズが約1000円~

    3000円で作るGPSロガーシステム(M5Atom+GPSモジュール+クラウド完全無料枠) | IIJ Engineers Blog
  • ソーラーパネルで動くLoRaWAN®基地局をスマート農業向けにDIYで設置してみた(前編) | IIJ Engineers Blog

    2016年にIIJJoin。現在はLoRaWAN(R)とカメラを中心としたIoT企画を担当しています。農業IoTとカメラの融合でみんなを楽しく楽にすることを日々考えています。 IoTビジネス事業部のm-ohnishiです。普段はLoRaWAN®やカメラのソリューション企画を担当しています。 こちらのブログ記事はIIJ Engineers Blogの中心読者であるエンジニアの皆様だけでなく、スマート農業・農業IoTに関心を持たれている農業経営体(農家)の皆様もターゲットとしています。エンジニアでない方には少し難しい技術用語も含まれていますが、最後までお付き合いいただけますと幸いです。 なお、文中に出てくる「水田水管理ICT活用コンソーシアム」の取り組みについては、『「水田水管理ICT活用コンソーシアム」を設立し、 農林水産省の公募事業「革新的技術開発・緊急展開事業」を受託』のプレスリリー

    ソーラーパネルで動くLoRaWAN®基地局をスマート農業向けにDIYで設置してみた(前編) | IIJ Engineers Blog
  • テレワーク環境を手軽に構築!即日・無償提供の「SEIL」の使い方 | IIJ Engineers Blog

    IIJ プロフェッショナルサービス第一部所属のエンジニア、自社ルータのSEILちゃんとともに、IIJのサービスをあれこれ組み合わせてお客さまへ届ける日々を送る。カラオケが大好きでPerfumeとラブライブ!、東池袋52が得意。動画はウェザーニュースLiVEがお気に入り。 「テレワーク環境を手軽に構築!即日・無償提供の「SEIL」でできること」では、IIJがリモートアクセス機器「SEIL」を無償で貸し出しする件について紹介いたしました。こちらの記事では、貸し出しする機器を導入するための具体的な手順を紹介いたします。 先の記事でも書きましたが、今回は緊急に貸し出しを実施するため、SEILの中の一部の機能だけを有効にしています。また、対応可能な構成も典型的なものに限定していることをご承知おきください。通常のサービスメニューではこれ以外の機能や構成にも対応可能です。 なお、これらの手順にはオフィ

    テレワーク環境を手軽に構築!即日・無償提供の「SEIL」の使い方 | IIJ Engineers Blog
  • どれくらい自社ドメインがなりすまされているか、ご存知ですか? | IIJ Engineers Blog

    IIJ ネットワーク部アプリケーションサービス部・(兼)社長室所属。 メールサービスの運用業務に従事し、日々世界の悪と戦う一児の父親。社内 Power Automate エバンジェリスト(自称)。M3AAWG member / openSUSE Users / WIDE Project メンバー。趣味は大喜利。はがき職人。 企業の情報システム部門でメールを担当されているみなさん、この問いに答えられる方は、どれくらいいらっしゃるでしょうか。 「そんなこと、気にしたこともない」という方も少なくないかもしれません。それもそのはず、これまで送信ドメイン認証を代表する SPF、DKIM は、送信者側が受信者側でどのように評価されたか知る術がありませんでした。ましてや、第三者の何者かが自社ドメインを勝手に使って誰かにメールを送っている、なんて知ることは不可能でした。 しかし、DMARC(RFC 74

    どれくらい自社ドメインがなりすまされているか、ご存知ですか? | IIJ Engineers Blog
  • DNS over TLS/HTTPSについて考える | IIJ Engineers Blog

    はじめに 昨年から DNS over TLS (DoT)、DNS over HTTPS (DoH) にまつわる動きが急速に活発になっています。 DoT は2016年に RFC7858 が出てしばらくは大きな動きはありませんでしたが、2017年11月にサービス開始した public DNS である Quad9 (9.9.9.9)、昨年4月開始の Cloudflare (1.1.1.1)が相次いで DoT に正式対応し、遅れて今年1月には Google Public DNS (8.8.8.8) も対応しました。クライアント側としては昨年8月リリースの Android 9 “Pie” が DoT に対応しています。 DoH は仕様の標準化より実装の方が先行しています。Cloudflare は DoT だけでなく DoH も昨年4月のサービス開始当初からサポートしています。Mozilla Fire

    DNS over TLS/HTTPSについて考える | IIJ Engineers Blog
  • 本当に必要なアラートだけを選別したい | IIJ Engineers Blog

    大量のアラートを、どうさばくか サーバやネットワークが正常に作動しているかどうか監視しつづけ、障害発生にすばやく対応するのは、運用担当者の大事な仕事です。IIJではネットワークだけでなく、アウトソーシングとしてお客様のシステムを多数運用していますが、それらの中にはオープンソースの統合監視ソフトウェア「Zabbix」を使っている案件もあります(もちろん、他の監視システムを使っている案件もあります)。Zabbixで対応しているアラート件数は、年間1000万件にのぼります。 これだけの数があると、ワーニングや単なるノーマルメッセージなど「対応不要」なアラートは最初から見たくありません。瞬間的にアラートが大量発生するときの「重複」も我慢できません。真に対応すべきものの選別すら、できれば人間の手を動かしたくはありません。 そこでIIJは、自分たちが使うための運用自動化ツールを開発しました。この自動化

    本当に必要なアラートだけを選別したい | IIJ Engineers Blog
  • ドキュメントの継続的な開発方法 | IIJ Engineers Blog

    私はソフトウェア開発を主体とするエンジニアで、 クラウドサービスの開発・運用 分散処理技術の検証とサービス利用の検討 社内の開発支援環境の開発・運用 などの業務に従事していますが、今回の記事は業務とは直接的な関係は無く、私が会社で勝手自発的に行っている取り組みについて書きたいと思います。 昨今、インターネットは生活に深く浸透し、クラウドサービスを利用することで安く簡単にWebサービスを開発、公開できるようになりました。Web技術の進化や流行の移り変りも非常に激しく、既存サービスの機能追加や新規サービスの開発は頻繁に行われています。それは弊社も例外ではありません。 このような開発の現場では、リーンソフトウェア開発への取り組みなど開発手法の最適化が積極的に行われ、様々なベストプラクティスが生みだされています。それらのベストプラクティスには、 継続的インテグレーション や 継続的デプロイメント

    ドキュメントの継続的な開発方法 | IIJ Engineers Blog
  • 1