例題として、下図のようなテキストファイルがあります。例えば、文字列LOG_DATAのある行を抽出したいとします。ここでは2箇所あります。 本プログラムを実行すると、下図のように、LOG_DATAのある行を2箇所抽出してcsvファイルとして書き出す雛形コードを載…

本記事では、URLからQRコードを生成する雛形コードを載せました。例えば、お気に入りのURLを保存しておきたい、あるいは誰かに教えてあげたいために他のデバイスに転送したいとします。この時、URLが長ったらしい場合は煩わしいです。そこで、URLをQRコード…

csvファイルから、sqlite3のデータベース（DB）ファイルを作成するPythonの雛形コード。また、そのDBを読み出して、指定した条件のデータを抽出したり、それをcsvファイルへ出力する雛形コードも載せました。 ちなみに、csvからsqlite3のDBを作成するには、…

本記事では、下図のようなpandasデータフレーム形式の表データに対して、行名、列名、もしくは行番号、列番号を指定して、任意の要素の値を抽出する雛形コードを載せました。 まず、csvのような表データは、次のようにしてpandasデータフレームで読み込みま…

'22/11/14更新：下図のように取得したい開始日の入力を促すコードの追記しました。さらに、日付を跨いでログインもしくはログオフしたことによって、各日のログオンもしくはログオフの片方が存在しない場合はnanを挿入する仕様にした。 本記事では、下図のよ…

例えば、WindowsローカルPCにて、Linuxサーバ等とファイルをやり取りするには、FTPソフトであるFFFTPやWinSCPなどを使用する方法があります。本記事では、そのようなソフトを使用するのではなくて、Pythonスクリプトで同様のことをする雛形コードを載せまし…

本記事では、下図のように多数のファイル名をrename（リネーム）する雛形コードを載せました。 上の例では、各ファイル名にある「スライド」を「slide_」にして、ファイル番号「1, 2, …, 10…」を「01, 02, …, 10…」のように2桁の0埋めに、ファイル名を変更し…

本記事では、下図のような画像ファイル（.jpgや.png）の線図のラインをpathとしたsvgファイルを作成するPythonの雛形コードを作成しました。 作成したsvgファイルは、CADソフトで読み込むことが出来ます。下図は、オープンソースのFreeCADで読み込んだ例です…

本記事では、下図左のような線図の線を検出して、下図右のようにCADで読み込めるsvgファイルを作成する雛形コードを載せました。 線図の線は、領域ごとに閉じたポリゴンとして作成します。そのため、押し出すことができます。下図は、オープンソフトのFreeCA…

本記事では、2つのデータフレームがあって、共通のindex（行番号，行名）の行データに対して、列データを連結する手順を載せました。もし、重複する列名がある場合はそれらを削除する操作も記載しています。 import pandas as pd # データ1 df1 = pd.read_cs…

本記事では、表題を成す雛形コードを2つ載せました。 ▼1. 指定条件にあてはまる要素を置換する場合は、mask()メソッドを使用する import pandas as pd # csvファイルを読み込むdf = pd.read_csv('test_data.csv') df # 特定の列に対して、指定条件にあてはま…

本記事では、csvファイルを外部ライブラリ「pandas」ではなくて、pythonの標準モジュール「csv」で取得する雛形コードを4つ載せました。 # 1. csvを1行ずつリストで抽出する場合 import csv with open('iris-dataset.csv', encoding = 'utf-8', newline = ''…

本記事では表題のことを成す雛形コードを載せました。例題データには、機械学習でお馴染みのボストンデータセットを用いました。入手方法はネット情報から得られます。 ▼元データのグラフ化 #!/usr/bin/env python # coding: utf-8 # In[1]: import pandas a…

本記事では、pandasデータフレームにて、行方向のデータを等分割する雛形コードを載せました。 例えば、下図左はアイリスデータセットで150行あります。これを下図右のように例えば、10行ずつに分割したデータフレームを新たに作成してリストへ格納します。 …

'22/04/13更新：堅牢性のためにエラー処理などを追加 本記事では、下図のようにホテル情報を抽出する雛形コードを載せました。使用するライブラリは「requests」です。 はじめに、楽天IDが必要なので、登録してない場合は登録します。そして、次のリンク先に…

ファイルパスからファイル名を取得するには、次のように、os.path.basename()を使用します。 import os file_path = r'D:\program\python\11_抽出\ファイルパスからファイル名と拡張子を取得する\data_1.csv' # ファイルパスから、ファイル名の取得 file_nam…

本記事では、pandasで特定列を日付型へ変換し、続けて色々操作する雛形コードを載せました。主に下図のような処理をします。 はじめに、日付型（時間型）へ型変換するのは次の通りです。 df['日付'] = pd.to_datetime(df['日付']) そして、一連の処理は下記…

本記事では、html解析により、web上のデータを抜き出し、csvへ書き出す雛形コードを載せました。下図は、日経HPの株の売買ランキングを抽出した場合の例です。証券コードと銘柄名を抽出してcsvへ出力します。 ライブラリのインストールは次の通りです。 pip …

本記事の雛形コードを実行するには前提条件があり、それは次の通りです。楽天証券で口座を開設していること。また、Windows環境である必要があります。それは、楽天証券のツールであるマーケットスピードII （MarketSpeed2）を使用するためです。 そして、マ…

例えば、下図のようにファイル名に番号があるファイルが複数あるとします。 それを下図のように、リストで数字を抽出します。 その雛形コードは次の通りです。 # ファイル番号を取得する# 変数「file_list」はファイル名のリストです。 No_list = [] for fil…

本記事では下図の凡例（legend）のRMのようにカテゴリ変数を指定数に分割して作成する。またそれを散布図にする雛形コードを載せました。 下図中にある列名「RM」のデータから、列名「label」というカテゴリ変数を作成します。それを上図のようにカテゴリ別…

本記事では、例えば、data_12.csvの文字列変数に対して、6番目から2つまでの文字列12を抽出する雛形コードを載せました。下図はその結果例です。12を抜き出して、拡張子に.txtをしてシンボリックリンクを貼っています。 ■本プログラム #!bin/bash my_file="d…

'22/06/10更新：グラフの体裁のため、雛形コードを多少編集しました。 本記事では、下図のような交互作用図を作成する雛形コードを載せました。縦軸は、出力指標Yのデータ平均で，横軸と凡例は入力因子Xです。 例えば、凡例によって線の傾きが異なることがあ…

'21/12/11更新：新しいファイルパスをリストから作成する方法に変更した。またzip圧縮するコードも追記。 本記事では、下図のようにファイルパスからフォルダパス，フォルダ名，ファイル名，拡張子，拡張子なしファイル名を取得する等の雛形コードを載せまし…

下図のように、行列数の異なるcsvファイルが複数ある。 本プログラムを実行すると、兎に角、下図のようにひとつのテキストファイルに書き込みます。 ■本プログラム #!/usr/bin/env python # coding: utf-8 # In[1]: import glob import pandas as pd file_li…

下図のような2列のデータがある。Label列には A, B, Cという3つのカテゴリがあり、それぞれに対応しているNo列の数値をリストで抽出する雛形コードを載せました。 本プログラムを実行すると、下図のようなデータを得ることができます。A, B, Cに属している数…

下図のようなリストがある。要素は15個。 本プログラムを実行すると、下図のように4つずつ取り出してタプルに格納します。 ■本プログラム import numpy as np # Noリスト化を作成する No_list = np.arange(1, 16, 1).tolist() print(No_list) # リストからn…

本記事では、下図のようにエクセルファイル中の先頭行ではなくて、中途半端な位置に表データ（行列範囲）がある場合に、特に適用します。この行列範囲を自動で判別して、抽出してpandasデータフレーム形式へ読み込む雛形コードを記載しました。 その仕組みは…

例題データは、機械学習でお馴染みのアイリスデータセットを用いました。150行×5列のデータです。 本記事でやりたいことは、例えば、sepal_lengthという列（カラム）に対して、5, 5.5, 6の値である行を全て抽出したい場合に適用し、次のようにします。リスト…

本記事では、指定したパス内にある全てのフォルダ（ディレクトリ）の容量サイズを取得して、降順にソートしてcsvファイルへ出力する雛形コードを載せました。 下図がその実施例で、指定したパス「D:/program/python/98_抽出」内のフォルダ毎の容量をランキン…