hypothesis+panderaで始める、データフレームに対するProperty Based Testing - Sansan Tech Blog
技術本部 R&D研究員の前嶋です。梅雨の季節ですが、少しでも快適に過ごせるようにOnのCloud 5 wpを購入しました。水に強くて軽快な履き心地で最高ですね。(追記：この記事の公開作業をしている間に梅雨が終わってしまいました) 今回は、データフレームのテストについての記事です。 データフレームのテストをどう書くか データが中心となるサービスのネックになるのが テストをどう書くか です。というのも、データフレームは行×列の構造になっているため、入力あるいは出力値がデータフレームになるような関数が多いプログラムでは、テストケースを書くのが非常に面倒です。仕様の変更があった場合、それぞれのテスト用の疑似データに修正を加えることを考えると、より簡潔にデータフレームのバリデーションをする方法が欲しいところです。実は、データフレームのテストはProperty Based Testingという考え方と
Polars
01FastPolars is written from the ground up with performance in mind. Its multi-threaded query engine is written in Rust and designed for effective parallelism. Its vectorized and columnar processing enables cache-coherent algorithms and high performance on modern processors. 02Easy to useYou will feel right at home with Polars if you are familiar with data wrangling. Its expressions are intuitive
Scaling Pandas: Dask vs Ray vs Modin vs Vaex vs RAPIDS
Scaling Pandas: Comparing Dask, Ray, Modin, Vaex, and RAPIDSHow can you process more data quicker? Python and its most popular data wrangling library, Pandas, are soaring in popularity. Compared to competitors like Java, Python and Pandas make data exploration and transformation simple. But both Python and Pandas are known to have issues around scalability and efficiency. Python loses some efficie
Scale your pandas workflow by changing a single line of code — Modin 0.29.0+29.g06699a8.dirty documentation
To use Modin, replace the pandas import: Scale your pandas workflow by changing a single line of code# Modin uses Ray, Dask or Unidist to provide an effortless way to speed up your pandas notebooks, scripts, and libraries. Unlike other distributed DataFrame libraries, Modin provides seamless integration and compatibility with existing pandas code. Even using the DataFrame constructor is identical.
Working with Time Series | Python Data Science Handbook
This is an excerpt from the Python Data Science Handbook by Jake VanderPlas; Jupyter notebooks are available on GitHub. The text is released under the CC-BY-NC-ND license, and code is released under the MIT license. If you find this content useful, please consider supporting the work by buying the book! Pandas was developed in the context of financial modeling, so as you might expect, it contains
Announcing the Consortium for Python Data API Standards
Announcing the Consortium for Python Data API Standards An initiative to develop API standards for n-dimensional arrays and dataframes 11 minute read Published: 17 Aug, 2020 Over the past few years, Python has exploded in popularity for data science, machine learning, deep learning and numerical computing. New frameworks pushing forward the state of the art in these fields are appearing every year
Apache Arrow(PyArrow)を使って簡単かつ高速にParquetファイルに変換する | DevelopersIO
id price total price_profit total_profit discount visible name created updated 1 20000 300000000 4.56 67.89 789012.34 True QuietComfort 35 2019-06-14 2019-06-14 23:59:59 方法１：PyArrowから直接CSVファイルを読み込んでParquet出力 まずは最もシンプルなPyArrowで変換する方法をご紹介します。入力ファイルのパス、出力ファイルのパス、カラムのデータ型定義の３つを指定するのみです。 処理の流れ PyArrowの入力ファイル名をカラムのデータ型定義に基づいて読み込みread_csv()、pyarrow.Tableを作成します。作成したpyarrow.Tableから出力ファイルに出力write_table()します
Analyse 100 GB of data with the Vaex dataframe library in Python
Analyse 100 GB of data with the Vaex dataframe library in Python Learn how to explore, visualise and analyse 100s of Gigabytes of tabular data with the Vaex open-source dataframe library in Python. Many organizations are trying to gather and utilise as much data as possible to improve on how they run their business, increase revenue, or how they impact the world around them. Therefore it is becomi
Reducing Pandas memory usage #1: lossless compression
Reducing Pandas memory usage #1: lossless compression by Itamar Turner-Trauring Last updated 06 Jan 2023, originally created 18 Nov 2019 You’re loading a CSV into Pandas, and it’s using too much RAM: your program crashes if you load the whole thing. How do you reduce memory usage without changing any of your processing code? In this article I’ll show you how to reduce the memory your DataFrame use
Ibis: Python Data Analysis Productivity Framework
An open source dataframe library that works with any data system Use the same API for 20+ backends Fast local dataframes with embedded DuckDB (default), Polars, or DataFusion Iterate locally and deploy remotely by changing a single line of code Compose SQL and Python dataframe code, bridging the gap between data engineering and data science Ibis: the portable Python dataframe library Ibis offers a
Wes McKinney - From Arrow to pandas at 10 Gigabytes Per Second
In this post I discuss some recent work in Apache Arrow to accelerate converting to pandas objects from general Arrow columnar memory. Challenges constructing pandas DataFrame objects quickly One of the difficulties in fast construction of pandas DataFrame object is that the “native” internal memory structure is more complex than a dictionary or list of one-dimensional NumPy arrays. I won’t go int
Python pandas 欠損値/外れ値/離散化の処理 - StatsFragments
データの前処理にはいくつかの工程がある。書籍「データ分析プロセス」には 欠損など 前処理に必要なデータ特性の考慮とその対処方法が詳しく記載されている。 が、書籍のサンプルは R なので、Python でどうやればよいかよく分からない。同じことを pandas でやりたい。 データ分析プロセス (シリーズ Useful R 2) 作者: 福島真太朗,金明哲出版社/メーカー: 共立出版発売日: 2015/06/25メディア: 単行本この商品を含むブログ (2件) を見る とはいえ、pandas 自身は統計的 / 機械学習的な前処理手法は持っていない。また Python には R と比べると統計的な前処理手法のパッケージは少なく、自分で実装しないと使えない方法も多い。ここではそういった方法は省略し、pandas でできる前処理 / 可視化を中心に書く。 また、方法自体の説明は記載しないので、詳細
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GitHub - lawlesst/sparql-dataframe: Convert SPARQL results to a pandas dataframe
GitHub - morph-kgc/morph-kgc: Powerful RDF Knowledge Graph Generation with RML Mappings
Functions & DAGs: introducing Hamilton, a microframework for dataframe generation | Stitch Fix Technology – Multithreaded
GitHub - nalepae/pandarallel: A simple and efficient tool to parallelize Pandas operations on all available CPUs
Modern Pandas (Part 1)
From chunking to parallelism: faster Pandas with Dask
GitHub - pydata/xarray: N-D labeled arrays and datasets in Python
GitHub - c-bata/datascience-notebook: Data Science Notebooks in Python3 (ja)