tippy3のブックマーク (233)

  • 人気順検索のSolrはスケールのためにディスクを捨てた - クックパッド開発者ブログ

    技術クックパッドサービス基盤グループの id:koba789 です。 昨年まではデータ基盤グループというところで 最新のログもすぐクエリできる速くて容量無限の最強ログ基盤 を作ったりしていました。 今年はちょっとチームを移動しまして、検索システムをいじっていました。今回はそのお話です。 なお、クックパッドには様々な検索システムがありますが、この記事では説明を簡単にするためにレシピの検索のみに焦点をあてています。 クックパッドの検索システムにあった課題 クックパッドにはレシピを検索できる機能があります。 プレミアム会員限定の人気順検索もこの機能の一部です。 しかし、この重要な機能を支える検索システムにはいくつもの課題がありました。 Solr が古すぎる クックパッドでは、レシピ検索を含む多くの検索機能にSolrを用いています。 今年の始めに私がこの課題に取り組み始めた時点では、その Sol

    人気順検索のSolrはスケールのためにディスクを捨てた - クックパッド開発者ブログ
    tippy3
    tippy3 2020/11/25
  • 【オンラインMeetup イベントレポート】ZOZOTOWNシステムリプレイスの裏側 - ZOZO TECH BLOG

    こんにちは、ZOZOテクノロジーズ CTO室の池田(@ikenyal)です。 ZOZOテクノロジーズでは、11/5にZOZO Technologies Meetup〜ZOZOTOWNシステムリプレイスの裏側〜を開催しました。 zozotech-inc.connpass.com イベントでは、ZOZOテクノロジーズがどのようにリプレイスを進めているかをお伝えするイベントで、AWSKubernetesGitHub Actions・Go・ElastiCacheなどをどのように活用しているかをお伝えしました。 登壇内容 まとめ 弊社の社員4名が登壇しました。 ZOZOTOWNリプレイス2020 (SRE部 ECプラットフォーム 瀬尾 直利 / @sonots) ZOZOTOWNリプレイスにおけるSREの取り組み (SRE部 ECプラットフォーム 高塚 大暉) API Gatewayによるマイ

    【オンラインMeetup イベントレポート】ZOZOTOWNシステムリプレイスの裏側 - ZOZO TECH BLOG
    tippy3
    tippy3 2020/11/11
  • CloudNative Days Tokyo 2020 にて技術発表をしました - ZOZO TECH BLOG

    こんにちはプラットフォームSREの亀井と三神です。 先日開催されましたCloudNative Days Tokyo 2020にて私達が取り組んできたID基盤リプレイスプロジェクトについて登壇してきました! ID基盤リプレイスプロジェクトはモノリスな環境をリプレイスするプロジェクトの1つであり、マイクロサービス化とそれに伴うメンバーの教育について挑戦した案件ですので是非とも御覧ください。 CNDTについて CloudNative Days Tokyo(以下、CNDT)はCloudNative Daysにおける東京開催のイベントです。CloudNative Days実行委員会の方々が運営しているイベントで東京の他にも大阪や福岡等でも実績のある大規模な技術カンファレンスとなります。CloudNative Daysの開催目的は公式サイトにて以下のように紹介されています。 CloudNative D

    CloudNative Days Tokyo 2020 にて技術発表をしました - ZOZO TECH BLOG
    tippy3
    tippy3 2020/10/29
  • 10TB超えのBigQuery巨大データを高速にS3に同期する - ZOZO TECH BLOG

    こんにちは。SRE部MA基盤チームの川津です。 私たちのチームでは今年サービスを終了した「IQON」の10TBを超える大規模データをBigQueryからS3へ移行しました。記事ではデータ移行を行った際に検討したこと、実際にどのようにデータ移行を行ったかを紹介します。 データ移行の経緯 IQONは2020年4月6日をもってサービスを終了しました。そのIQONではデータ分析にBigQueryを利用していましたが、Amazon Web Services(AWS)上にもIQONに関するリソースが存在します。そのため、IQONはGCPAWSの2つのクラウドで運用していました。 しかし、サービス終了に伴いGCPAWSどちらかにリソースを統一する必要が出てきました。統一する意図としては、終了したサービスが利用する取引先を減らし、請求対応などの事務的なコストを減らしたい意図がありました。そのためGC

    10TB超えのBigQuery巨大データを高速にS3に同期する - ZOZO TECH BLOG
    tippy3
    tippy3 2020/10/23
  • ケアラベル発行の完全自動化のアプローチと効果について - ZOZO TECH BLOG

    はじめに MSP技術推進部の基幹化推進チームの池田(@ikeponsu)です。 私達のチームでは、マルチサイズプラットフォーム事業(MSP)におけるデジタルトランスフォーメーション(DX)の取り組みを行っています。その取り組みの1つに、ケアラベル作成自動化システムの開発・導入があります。 このケアラベル作成という業務ですが、元々は人の手で1つずつ行われていたものでした。以前書いた「Go言語でケアラベル発行の自動化」の記事の中ではプロトタイプの紹介をしましたが、今回は実際にプロダクトで使われる様になったシステムの構成や、どの様に導入を行ったかといった内容を紹介します。 techblog.zozo.com 弊社のケアラベル 以前書いた記事でも少し紹介しましたが、ここではそもそも弊社のケアラベルがどういったものなのか、説明していきたいと思います。 ケアラベルとは上記の様な、繊維製品になくてはなら

    ケアラベル発行の完全自動化のアプローチと効果について - ZOZO TECH BLOG
    tippy3
    tippy3 2020/10/21
  • Scrapyを使って自社SNSに特定形式の文字列が含まれていないかチェックする方法 - ZOZO TECH BLOG

    こんにちは、ジャポニカ学習帳の表紙に昆虫が戻って来た1ことに喜んでいる、SRE部エンジニアの塩崎です。 先日、有名な投稿型メディアプラットフォームで投稿者のIPアドレスが漏洩するという事象が発生しました。我々ZOZOテクノロジーズが開発・運用しているWEARも、ユーザー投稿型のサービスであるという意味では同様であり、もしかしたら投稿者のIPアドレスを漏洩しているかもしれません。 記事ではWEARがIPアドレス漏洩をしていないかどうかをクローリングで調査する手法、及びその結果問題がなかったということをお知らせします。 WEARで行われているセキュリティ対策 WEARで行われているセキュリティ対策の一部についても簡単に説明します。WEARでは専門家による定期的なセキュリティ診断を行い、そのレポートに基づいたよりセキュアになるための修正を継続的に行っております。 また、リリースされるコードはチ

    Scrapyを使って自社SNSに特定形式の文字列が含まれていないかチェックする方法 - ZOZO TECH BLOG
    tippy3
    tippy3 2020/10/09
  • CNDT2020で「ZOZOにおける ID基盤のk8sへのリプレイスとセキュリティの取り組み」の発表をしました

    以降は、今回の発表の個人的な感想です。 私個人として今回の発表の一番の目玉は、私自身の発表というよりも、幣チームメンバーの亀井(亀ちゃん)に発表してもらったことです。ID基盤についての設計思想から何から整理して最高の発表資料を仕上げてくれました。私は軽くレビューをしただけで何もする必要がありませんでした。 元々ID基盤のインフラは、1年ほど前にオンプレ歴は長いがクラウドも Kubernetesも初心者だったEnKUMAと亀ちゃん、そして私とインダクターの4人で始動した紆余曲折ありながらも進めてきたプロジェクトでした。今となってはチーム規模も大きくなり、新卒メンバーもJOINしたりと大きく変わっていますが、当初はオンプレとクラウドネイティブアーキテクチャの考え方の違いを教える所からスタートし苦労もあったと思います。しかし、年下であるインダクターからも貪欲に学ぼうとする2人の姿勢は端からみてい

    tippy3
    tippy3 2020/09/10
  • 知っておくと便利な git clone --depth と git diff --indent-heuristic - kakakakakku blog

    コミット履歴が無駄に多く,黒歴史のある Git リポジトリで開発をする場合,初回の git clone が非常に遅いという問題がある.コミット数に依存せずに素早く落とせる方法を探していて,最近(今さら...!) git clone の --depth オプションのことを知った.用途によっては非常に便利なので,まとめておこうと思う. 前提 現時点で公開されている最新バージョンの Git 2.12.1 を前提にしている.Git は今もまだ機能が増えているため,定期的にバージョンアップしておくと良いと思う.Mac なら brew upgrade git でサクッと最新バージョンになる. $ git --version git version 2.12.1 git clone --depth とは git clone で --depth オプションを使うと,指定したコミット数で刈り取ることができる

    知っておくと便利な git clone --depth と git diff --indent-heuristic - kakakakakku blog
    tippy3
    tippy3 2020/09/06
  • 初参戦のISUCONで予選敗退した話 (ヽ´ω`) < 22位 - aeroastroの日記

    お久しぶりです。この度、はじめてISUCONに参加することが出来たので、ブログを書いてみました。 ISUCON8 !! エントリーするまでの話 「アプリエンジニアもすなるISUCONなるものを、インフラエンジニアもしてみむとてするなり。」 巷でISUCONというものが流行ってて、優勝したらお金ももらえるし、参加してる人楽しそうだし参加したいなぁという気持ちをこじらせてたのですが、ISUCON8 で初参加を果たす事ができました。 今回は、会社つながりで アプリエンジニアの 私 @aeroastro と @abish 、そしてインフラエンジニアの @naoka と一緒に「ほうじ茶ラテ部」を結成し、参加してきました! 締切直前に声をかけたにも関わらず、集まっていただいて当にありがとうございました。 言語はGoPerlRuby で迷ったのですが、せっかくだし業務で使うことの多いRub

    初参戦のISUCONで予選敗退した話 (ヽ´ω`) < 22位 - aeroastroの日記
    tippy3
    tippy3 2020/09/01
    curlで簡易的な動作確認を行う例。Cookieは-bと-c
  • ISUCON8 予選問題の解説と講評 : ISUCON公式Blog

    予選の問題作成を担当したDeNAのkarupaneruraです。 予選に参加した皆様、お疲れ様でした。 楽しんで頂けましたでしょうか。 お陰様で大きなトラブルもなく無事に予選を終えることができました。 参加者の皆様をはじめとした皆さんのご協力がなければ成し得ないことでした。 ご協力いただいた皆様、ありがとうございました。 課題アプリケーション今回の課題はイベントのチケット予約アプリケーションでした。 ユーザーを作成、またはログインを行うと座席を予約することができます。 座席は抽選で決まる仕組みになっており、ランダムに決まった座席が即座に分かるようになっています。 埋まっている座席は黒く塗りつぶされ、自分の獲得した座席は緑色の字で表示されています。 また、自分の座席をクリックするとキャンセルを行うことができます。 マイページでは自分の最近予約(orキャンセル)した席を5件、最近予約(orキャ

    ISUCON8 予選問題の解説と講評 : ISUCON公式Blog
    tippy3
    tippy3 2020/09/01
  • Microsoft MVPの受賞報告と、受賞のためにしたこと - ZOZO TECH BLOG

    こんにちは。ZOZOテクノロジーズの廣瀬です。 私は2020年8月に、Microsoft MVPをData Platformカテゴリにおいて受賞しました。カテゴリにおける現在の日の受賞者は私で10人目となります。記事ではMicrosoft MVPの概要と、受賞するためにどのようなことを意識して、どのような行動をとっていたのかについてご紹介します。 Microsoft MVPとは Microsoft MVPとは、Microsoftに関連する技術コミュニティにおいて大きく貢献した人物を表彰する制度で、1年間有効なアワードです。再受賞のためには、毎年審査が必要になります。Microsoft MVP for xxxというように、特定のカテゴリごとに受賞者が決まり、現在では11カテゴリにおいて約2900名のMVPが世界中に存在しています。受賞者はMVP一覧ページにプロフィールが掲載されます。

    Microsoft MVPの受賞報告と、受賞のためにしたこと - ZOZO TECH BLOG
    tippy3
    tippy3 2020/08/28
  • AWSの料金をSlackに報告してくれるBotを作成した話 - ZOZO TECH BLOG

    作った経緯 AWS料金Botの機能 実装 気をつけるべき点 Lambdaのコードをアップロードする際の問題 Serverless Application Modelの採用 CloudFormationとServerless Application Modelの比較 まとめ 最後に こんにちは。今年の4月に新卒で入社し、SRE部MA基盤チームに配属された川津(@jon_ground)です。 MA基盤チームではMAで利用しているインフラの使用料金が把握できていない問題があります。そこで気軽に料金を確認できるようにAWSの料金をSlackに報告してくれるBotを作成しました。記事では上記の問題を解決するため、Botを作成するまでに至った経緯や数ヶ月運用して得られたメリットについて紹介します。 作った経緯 MA基盤チームでは、MA関連のインフラをAWS上で構築しており、開発、ステージング、番と

    AWSの料金をSlackに報告してくれるBotを作成した話 - ZOZO TECH BLOG
    tippy3
    tippy3 2020/07/29
  • ZOZOテクノロジーズのオープンソースソフトウェアポリシーを策定しました - ZOZO TECH BLOG

    こんにちは。MLOpsチームリーダー兼プラットフォームSREチームリーダーのsonotsです。今年の4月からZOZOTOWNリプレイスプロジェクトにも関わるようになりました。Zoomの背景画像を「進め!電波少年」にしてみても、チームの若者に伝わらないのが最近の悩みです。 今回の記事は、昨年度にタスクフォースとして発足したOSSポリシー策定委員会を代表して、今年の4月に弊社で策定したOSSポリシーについて紹介します。 OSSポリシー策定の背景と目的 弊社でもOSSを利用・貢献・公開しているメンバーが増えてきています。また、会社としても業界貢献、技術アピールの側面からOSS活動を奨励したいという想いがあります。 しかし、弊社にはOSSポリシーが存在しなかったため、相談を受けた際にCTO室が都度判断するという状況がしばらく続いていました。都度判断ではスケールしないため、「社員がOSS活動しやすい

    ZOZOテクノロジーズのオープンソースソフトウェアポリシーを策定しました - ZOZO TECH BLOG
    tippy3
    tippy3 2020/07/20