IT 【python】withな処理をcontextmanagerで実装する
ファイルの読み込みやデータベースのセッション管理など、 withを使用しクローズを自動でおまかせするような処理を記述する際は、 contextmanagerがおすすめだよと教えてもらいました。 そのあたりを自分のメモとして記載。 (adsb...
IT
IT 
IT 【sqlalchemy】サブクエリの使い方
今回はsqlalchemyによるサブクエリの使い方についてです。 こちらのサンプルの対象のデータベースはPostgresqlです。
IT 【pycharm】isortで複数行importの改行をバックスラッシュからカッコにする
こちらでpycharmでコード保存した時に blackを自動適用しコードフォーマットする方法を紹介しました。 最近では同じ方法を使って、isortというimportの順序を PEP8に従って整えるモジュールも同時に適用するようにしていました...
git 【git】コミットコメントプレフィックス
gitのコミットコメントのプレフィックスのルールとして、 Angularの公式のDEVELOPERS.mdにあるのがいいなぁと思ったので、 自分のメモ的に紹介させていただこうと思います。
IT 【python】requirements.txt -> poetryへ移行する
ちょっと前まで、requirements.txtで依存ライブラリ管理して、 test-requirements.txtとか、testRequirements.txtなどに ファイル分割してテスト周りのライブラリ管理していました。 最近、これ...
IT 【sls】【python】【Mac】lambdaでimportエラー（cannot import name ‘etree’ from ‘lxml’）の回避
serverless frameworkにてdeployしたlambdaを実行したところ、 Unable to import module 'モジュール名': cannot import name 'etree' from 'lxml' こ...
IT 【python】【sls】【lambda】デコレータで入力チェックする
pythonのデコレータ使ってますか？？ 現場で、serverless frameworkでデプロイしたAPI Gateway ＋ lambdaなメソッドで HTTPヘッダに特定の値が設定されているか？をチェックする必要が出てきました。 そ...
IT 【python】pandasでデータを操作する
最近は、データ分析なんかを担当しているので、 awsのs3に散りばめられたcsvと格闘することが多いです。 それを処理するために主に使用する言語がpythonなのですが、 テキストデータを扱うためにpandasというライブラリを使用していま...
Apache Spark 【EMR】【pyspark】postgresqlのデータをDataframeに読み込む
以前、別のプロジェクトでscalaの方のsparkで EMRを利用した分散処理基盤の実装というのは行っていました。 今回はpysparkを使用することになったのですが、 いろいろspark時代の知識は有効であったものの、 postgresq...
IT 【python】pytest + boto3 + motoでDynamoDBをモックしてテストする
今回はawsのDynamoDBに特化したお話。 実際、pytest-mockなんかを駆使すればいくらでもモッキングはできるのですが、 motoというbotoの処理をモック化してくれるライブラリがあるとのことなので、 早速使ってみた感じです。...