Python

Python csvからsqlite3のDBを作成する。またそのDBを読み込んでデータ抽出したり、csvファイルへ出力する

csvファイルから、sqlite3のデータベース(DB)ファイルを作成するPythonの雛形コード。また、そのDBを読み出して、指定した条件のデータを抽出したり、それをcsvファイルへ出力する雛形コードも載せました。 ちなみに、csvからsqlite3のDBを作成するには、…

Python pandasで特定の要素の値を抽出する「at, iat」

本記事では、下図のようなpandasデータフレーム形式の表データに対して、行名、列名、もしくは行番号、列番号を指定して、任意の要素の値を抽出する雛形コードを載せました。 まず、csvのような表データは、次のようにしてpandasデータフレームで読み込みま…

Python 列名指定で棒グラフを描く「pandasのplot.bar()とax.patches」

本記事では、下図のような棒グラフをpandasのデータフレームにて、列名を指定して描く雛形コードを載せました。df.plot.bar()を使います。グラフの値を記入するには、ax.patchesを用います。 上図の元データは、下図のような表データです。これをpandasのDat…

Python WindowsPCにて、ログオン/ログオフ日時を取得してcsvファイルへ出力する

本記事では、下図のようにログオン、ログオフした日時を取得してcsvファイルに保存するPythonの雛形コードを載せました。また、右端の列「operating_time」には、ログオン時刻とログオフ時刻の差分を算出する仕様です。これは、例えば勤務時間とすることもで…

Python ヒストグラムの重ね合わせ。色付きエッジで表現する場合

本記事では、下図のように2つのデータを重ね合わせる雛形コードを載せました。色塗り潰しなしの色付きエッジで表示します。図例では2つの重ね合わせですが、数が多い場合に分布の比較がし易くなります。 さらに、下図のように度数分布表をcsvファイルへ出力…

Python サーバーへSSH接続してcsvファイルを読み込んだり、SFTP転送によりファイルコピーする「Paramiko」

例えば、WindowsローカルPCにて、Linuxサーバ等とファイルをやり取りするには、FTPソフトであるFFFTPやWinSCPなどを使用する方法があります。本記事では、そのようなソフトを使用するのではなくて、Pythonスクリプトで同様のことをする雛形コードを載せまし…

Python tkinterによるGUIの作成

本記事では、下図のようなGUIアプリをPythonの標準ライブラリ「tkinter」で作成する雛形コードを載せました。 下図のようにファイルを選択したり、選択したファイルパスや、その内容を表示したりします。 ■本プログラム import os import tkinter as tk impo…

Python 大量のファイル名を一括で変更する

本記事では、下図のように多数のファイル名をrename(リネーム)する雛形コードを載せました。 上の例では、各ファイル名にある「スライド」を「slide_」にして、ファイル番号「1, 2, …, 10…」を「01, 02, …, 10…」のように2桁の0埋めに、ファイル名を変更し…

Pyhotn 線図の細線化「scikit-image × sknw」とsvgファイルの作成「svgwrite」

本記事では、下図のような画像ファイル(.jpgや.png)の線図のラインをpathとしたsvgファイルを作成するPythonの雛形コードを作成しました。 作成したsvgファイルは、CADソフトで読み込むことが出来ます。下図は、オープンソースのFreeCADで読み込んだ例です…

Pyhotn 線図の細線化「cv2.ximgproc.thinning」とsvgファイルの作成「svgwrite」

本記事では、下図左のような線図の線を検出して、下図右のようにCADで読み込めるsvgファイルを作成する雛形コードを載せました。 線図の線は、領域ごとに閉じたポリゴンとして作成します。そのため、押し出すことができます。下図は、オープンソフトのFreeCA…

Python 集合棒グラフ(横並び棒グラフ)

'22/09/10更新:棒グラフの値の表示位置設定とグリッド設定について、引数を明記しました(グラフデザインの柔軟性を高めた雛形コードにするため)。 本記事では、下図のような横に並べる棒グラフの雛形コードを載せました。 上記のデータ元は、下図のような…

Python ライブラリのライセンス情報,説明,URLを取得してcsvへ保存する「pip-licenses」

本記事では、インストール済のライブラリ(パッケージ)のライセンス情報、説明、URLを取得して、csvファイルへ出力するPythonスクリプトを載せました。 ■ライブラリ「pip-licenses」を次のようにpipでインストールします pip install pip-licenses 本スクリ…

Python JupyterLab Desktopアプリ .ipynbをダブルクリックで起動できる

jupyterLab desktopは、下図のようにショートカットも作成できるアプリケーション(ソフトウェア)です。 このため、下図のようなJupyterのファイル拡張子.ipynbをダブルクリックで起動することが出来ます。これがブラウザ上で操作する普通のJupyterLabとの…

Python 同じインデックスを抽出して、列データを連結する「Pandasのmerge」

本記事では、2つのデータフレームがあって、共通のindex(行番号,行名)の行データに対して、列データを連結する手順を載せました。もし、重複する列名がある場合はそれらを削除する操作も記載しています。 import pandas as pd # データ1 df1 = pd.read_cs…

Python Jupyter上に画像ファイルを表示する「matplotlib.image」

本記事では、JupyterLabで画像を表示する雛形コードを載せました。下図は、3つの画像ファイルを載せた例です。列数は、変数my_colで指定します。その列数と表示するファイル数から、行数を計算して画像を表示する仕様です。 ■本プログラム #!/usr/bin/env py…

Python 「Pandas」指定条件にあてはまる or あてはまらない要素を置換する「mask, whereメソッド」

本記事では、表題を成す雛形コードを2つ載せました。 ▼1. 指定条件にあてはまる要素を置換する場合は、mask()メソッドを使用する import pandas as pd # csvファイルを読み込むdf = pd.read_csv('test_data.csv') df # 特定の列に対して、指定条件にあてはま…

Python 標準モジュール「csv」で書き込む代表例2つ

本記事では、標準モジュールの「csv」でcsvファイルを作成する雛形コードを2つ載せました。いずれも下図のようなカンマ区切りのテキストファイルを出力します。行数が少ない場合はpandasよりも可読性が良いかもしれません。 ▼一行ずつ書き込む場合 import cs…

Python csvファイルを標準モジュール「csv」で読み込む代表例4つ

本記事では、csvファイルを外部ライブラリ「pandas」ではなくて、pythonの標準モジュール「csv」で取得する雛形コードを4つ載せました。 # 1. csvを1行ずつリストで抽出する場合 import csv with open('iris-dataset.csv', encoding = 'utf-8', newline = ''…

Python 株価データを取得する「pandas_datareader」

本記事では、チャートデータを取得する雛形コードを載せました。ライブラリは「pandas_datareader」を使用します。下図は、ある銘柄の現在から過去5年間の期間を指定して取得した例です。 ■インストールは次の通りです pip install pandas-datareader ■本プ…

Python 特定の列に対する指定条件で、行データ(外れ値)を削除する方法「Pandasのquery」

本記事では表題のことを成す雛形コードを載せました。例題データには、機械学習でお馴染みのボストンデータセットを用いました。入手方法はネット情報から得られます。 ▼元データのグラフ化 #!/usr/bin/env python # coding: utf-8 # In[1]: import pandas a…

Python 画像ファイルjpg, pngをsvgへコマンドラインで変換する「Inkscape, Potrace」

コマンドライン(command line)で、画像ファイルjpg, png, bmp等をsvgへ変換するには、ソフトウェアである「Inkscape」 もしくは 「Potrace」を用いる方法があります。本記事では、これらをPythonスクリプトで実行する雛形コードを載せました。 下図はjpg画像…

Python 積み上げ縦棒グラフを作成する「matplotlib」

'22/09/10更新:グリッド設定の引数を追加(明記)しました。 本記事では、下図のような積み上げ棒グラフを作成する雛形コードを載せました。次のサイトを参考にして、自分好みの設定にしたものです。https://pystyle.info/matplotlib-stacked-bar-chart/ 上…

Python Pandas行方向に周期的にデータを分割して抽出する

本記事では、pandasデータフレームにて、行方向のデータを等分割する雛形コードを載せました。 例えば、下図左はアイリスデータセットで150行あります。これを下図右のように例えば、10行ずつに分割したデータフレームを新たに作成してリストへ格納します。 …

Python データ間を線形補完する「scipy.interpolate 」

本記事では、下図のように、青点の間を一次式で補完して赤点を作成する関数を作成する雛形コードを載せました。 上記データは、下図の横軸にA列、縦軸にD列をとったものです。 ■本プログラム #!/usr/bin/env python # coding: utf-8 # In[1]: import pandas …

Python Web APIにて、JSONのtrue, falseを指定する方法「json」

本記事では、Python辞書型をJsonへ変換して、ポストリクエストする雛形コードを載せました。(このサンプルは実在しないURLとリクエスト情報のため、ポストメソッド実行時にレスポンスのエラーになります。あくまで例のための雛形コードです) ■本プログラム…

Python 楽天トラベルWeb API(REST)によるホテル情報の抽出「requests」

'22/04/13更新:堅牢性のためにエラー処理などを追加 本記事では、下図のようにホテル情報を抽出する雛形コードを載せました。使用するライブラリは「requests」です。 はじめに、楽天IDが必要なので、登録してない場合は登録します。そして、次のリンク先に…

Python ぐりぐり動く三次元散布図を作成する「Plotly Express」

本記事では、 下図2つのような3次元散布図を作成する雛形コードを載せました。ライブラリは、plotlyを用います。 作成した図は、下記リンク先のようにグリグリ動かせるため、視野角によってデータの特徴を把握し易くなります。 www.youtube.com 下図は、例題…

Python ファイルパスから簡単に、ファイル名,拡張子なしファイル名,拡張子を取得する

ファイルパスからファイル名を取得するには、次のように、os.path.basename()を使用します。 import os file_path = r'D:\program\python\11_抽出\ファイルパスからファイル名と拡張子を取得する\data_1.csv' # ファイルパスから、ファイル名の取得 file_nam…

Python 株価のRSIを計算してグラフ化する

本記事では、下図中の下段のように、テクニカル指標のひとつであるRSI(Relative Strength Index,相対力指数)を算出してグラフ化する雛形コードを載せました。 必要なデータは、下図のような時系列チャート情報です。例えば、次のリンク先のような手順で入…

Python 株価の価格帯別出来高をグラフ化する

本記事では、下図のようなグラフを作成する雛形コードを載せました。下図左にはチャート図、右には価格帯別出来高図を表記します。 下図は、例として読み込んだ時系列データです。次のリンク先のような手順で入手できます。Python 楽天証券のマーケットスピ…