ヤフーがIoTをはじめます。モノとインターネットをつなぎます。来春始動!ご登録ありがとうございます ご入力いただいたメールアドレス宛に最新情報をお送りさせていただきます。情報の更新をお待ちください。
![Yahoo! IoT](https://cdn-ak-scissors.b.st-hatena.com/image/square/15b37cc17a5c28873ba6549e8a280f7c689d1fc5/height=288;version=1;width=512/https%3A%2F%2Fs.yimg.jp%2Fimages%2Fapp%2Fyiot%2Fsocial%2Fyiot_ogp_pr.png)
スクレイピングとは、ウェブページから情報を取り出す処理を指します。そのためのプログラムやツールが存在します。 さて、ここで立場を変えて、情報を取り出されてしまうウェブサイト側の立場になって考えてみますと、スクレイピングはあまりうれしくない存在であることがわかります。 ニュースサイトは、コストと時間をかけて書いた記事をコピーされ転載されてしまう。 オンラインショップは、ライバルの他社に商品リスト、価格、在庫の変化、顧客の評価等を把握されてしまう。 インターネット広告は、自社が出している/仲介している広告の種類と量をライバルに把握されてしまう。 他社の情報は把握したいが、自社の情報は把握されたくないと考えるのは自然なことのようです。その証拠として、スクレイピングの普及に合わせて、自分のサイトがスクレイピングされることを防ぐための「アンチスクレイピングサービス」なるものが世に広まりつつある点を挙
[2020/09/09追記] 本記事の内容は著作権法改正より前に記載されたものです。 最新の情報をご確認下さい。 * 著作権法の一部を改正する法律(平成30年法律第30号)について | 文化庁 * 令和2年通常国会 著作権法改正について | 文化庁 上記に関連して、次の記事を記載致しました。 * 【2020年度版】個人用クローラーの開発手順とその注意点 - Qiita 4日目になるまでに残り1時間なので、急ぎで書きます。 後、私は法律の専門家ではないので記事の正確性は保証できません。自己責任でお願いします。 はじめに Webスクレイピングの技術的な情報は多いのですが、法律に関する情報は数少ないです。 その為、技術的にできる事でも遠慮してしまい、インターネット上のデータを利用する事を避けてしまう人もいます。 特にLibraHack事件以降、その傾向が強いです。 これは「モノのインターネット(
こんにちは。Songmuです。 この記事ははてなエンジニアアドベントカレンダーの3日目です。 昨日、Hatena Engineer Seminar #3を開催いたしました。何より参加率が高かったことに感激したのですが、その分少し窮屈な思いをさせてしまったかもしれないのは申し訳なかったです。多数のご参加本当にありがとうございました。 セミナーではMackerel overviewという話をさせてもらったのですが、そこでお話したMackerelで採用している技術について説明します。 Mackerelとは? 今年の9月17日にリリースしたはてな謹製のサーバー管理・監視ツールです。 数多くのサーバーを運用しているはてなは、これまでサーバー管理ツールを内製してきたのですが、そのノウハウを活かし、サービス用に新たに一から作ったサービスになります。 また、はてなの既存サービスとは性質が異なるため、技術選
誰でも使えるプロダクトに洗練させる 田中章雄氏(以下、田中):皆さんがやっていることは今までなかったカテゴリー・サービスだと思います。クラシファイド自体日本でそんなに流行っているものではないので、新カテゴリーというものを考えたとき、皆さんは自分たちのプラットフォームを含めて、どうやって集客しているのですか? こういうことをやらないと新しいサービスは世の中に広まらない、という体験談があれば苦労話を含め聞きたいです。 山田さん、テレビは力技なので10億円くらい調達して、お金ばら撒けばできると思いますが、テレビ以外で集客を考えたときにどういう工夫をしていますか? 山田進太郎氏(以下、山田):プロダクトが非常に重要だと思うので、出品にしても購入にしても、誰がやっても迷わずいけるという、プロダクトを洗練させることがまずは第一だと思っています。実際に起こっているのは、大体今1インストールあればどれくら
HTTP vs HTTPS Test Encrypted Websites Protect Our Privacy and are Significantly Faster Compare load times of the unsecure HTTP and encrypted HTTPS versions of this page. Each test loads 360 unique, non-cached images (0.62 MB total). For fastest results, run each test 2-3 times in a private/incognito browsing session.
三菱地所が海外企業や国内のベンチャー企業を対象にオフィス誘致や事業開発支援を行っているEGG JAPAN(日本創生ビレッジ)は11月28日、国内外で注目されているウェブサービス運営企業のコミュニティ構築担当者をゲストに招き、コミュニティの重要性や今後の可能性について考える「The Power of Community 日本とU.S.のコミュニティマネージャに聞くコミュニティの力」を開催した。 「コミュニティを作る。価値を創造する。」と題したパネルディスカッションでは、ピンタレストジャパンの大石結花氏、クックパッドの中山亜子氏、TwitCasting(ツイキャス)を運営するモイの丸吉宏和氏が登壇。Sansanの日比谷尚武氏の進行のもと、コミュニティ運営における各社の工夫が語られた。 会は日比谷氏がいくつかの疑問をキーワードとして挙げ、それに各社が答えていく形で進行。「コミュニティマネジメント
このエントリは、家庭を支える技術 Advent Calendar 2014 の一日目です。 「家庭を支える技術 Advent Calendar」とは エンジニアの友人たちとおしゃべりしているうちに、各ご家庭の生活を豊かにするためにしている技術的な工夫や、これからやりたいアイデアが話題に上がることが多くありました。そんななか、誰が言い出したか『家庭を支える技術』というキーワード*1が出てきていました(もちろん元ネタは WEB+DB PRESS plusシリーズ の「〜を支える技術」です)。 仲間うちだけでも面白い話が出てくるので、いろんな家庭の話を聞いてみたいとおもい、せっかく12月なので「家庭を支える技術 Advent Calendar」として世に問うてみた次第です*2。 ありがたいことに公開から数日で全日程が埋まり、「家庭を支える技術」への関心の高まりを感じています。 定期的に買う必要が
python × 120 javascript × 50 c# × 34 python3 × 31 html × 31 c++ × 28 linux × 27 c × 26 java × 21 windows × 20 android × 16 ruby × 16 google-apps-script × 16 php × 15 css × 15 reactjs × 15 typescript × 15 docker × 13 aws × 12 pandas × 12 swift × 11 ruby-on-rails × 11 mysql × 11 unity3d × 11 node.js × 11 ubuntu × 11 vscode × 11 postgresql × 11 rust × 10 macos × 9 visual-studio × 9 laravel × 9 networ
gred(グレッド)は、そのサイトが安全(green)か危険(red)かを判断する、無料のWebチェックサービスです。
問題の概要 Pixivの主催する同人誌委託・通販・DL販売サイト「Booth」 https://booth.pm/ で 2014年11月28~30日限定の同人音楽専門ネットイベント「Apollo」 https://booth.pm/apollo/ が 開催されているまさにその最中の29日18時頃、 「気付いたら自分のアカウントじゃないアカウントにログインできている」 「アカウント情報見たら他人のだった」 「カートに入れてたものが消えた」 「カートに入れた覚えのないCDが入ってる」 「買った覚えのないCDのカード決済通知が来た」 「アカウント見たら知らない人のカード情報が見れてしまった」 などの不具合がtwitterでつぶやかれるようになり、 その後すぐにBoothもApolloもメンテに入りました。 pixiv(Booth)の対応 pixiv(Booth)のその後の発表では、 Apollo
var util = require('util'); var twitter = require('twitter'); var twit = new twitter({ consumer_key: 'xx', consumer_secret: 'xx', access_token_key: 'xx', access_token_secret: 'xx' }); var keyword = process.argv[2]; //第一引数 var option = {'track': keyword}; console.log(keyword+'を含むツイートを取得します。'); var fs = require('fs'); var app = require('http').createServer(function(req, res) { res.writeHead(200, {'C
アーキテクトのItoです。動画を撮るのが趣味ですが、最近はこの本を買って、カラーグレーディングの勉強をしています。とても良い本です。 さて、今回お話するのはバックエンドにあるフロントエンドについて。 以下はほぼ実際にカメリオで運用しているバックエンド構成です。 図中のサーバーというものはいわゆるHTTPベースのサーバーアプリで、ここでは緑をNode.js, グレーをPython, C++で実装しています。小さいサーバーがたくさんあります。主にクライアント〜フロントエンドAPIだけの構成図で、記事クローラーや各種管理画面などは図にはありませんが存在します。 まずフロントエンドにELB(AWSを使用)とNginxを置き、後ろに NodeベースのフロントエンドAPIサーバーを置きます。 ここはNode.jsで作られたアプリをサービスするごく一般的な方法です。 エンドポイント(api.kamel.
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く