AWS AWS CDKでLambdaLayerもまとめてアップロードする 以前にLambda上でSeleniumとheadless-chromiumを動作させる方法について紹介いたしました。AWS Lambda PythonでSeleniumとheadless-chromi... 2021.09.26 AWSIaCPython
AWS PythonのBoto3を使ってS3の署名付き(期限付き)URLを発行する PythonのS3へローカルのファイルをアップロードする方法についてのメモとなります。 boto3は便利ですね。1. 署名付きURLとは署名付きURLとは、S3バケットへのアクセス権限を持たないユーザ... 2021.09.25 AWSPython
Linux Pytestのオプションについてのメモ Pytestを利用する際のオプションに忘れるので自分用のメモです。1. -v 詳細表示詳細を表示する2. --collect-only実行されるテストの一覧を表示する>pytest --collect... 2021.09.24 LinuxPython
AWS LacalStackでLambda Layerを使うにはPro版以上が必要だった・・・ LcalStackが便利なのですが、LocalStackでLambdaLayerをアップしようとしたらなぜか関数に紐づかないから調べたらショック、ということでメモです。まぁ世の中そういうもんだよね・・... 2021.09.23 AWSIaC
AWS LocalStackをつかってローカルにAWS開発環境を構築してみた 1. LocalStackとはAWSはクラウドサービスなのでもちろんインターネット経緯で利用いたしますが、 今回紹介するLocalStackを使うことでローカルに擬似的なAWS環境を作ってくれて、AW... 2021.09.22 AWSIaCPython
AWS LocalStackで実行しているLambdaからboto3で別のLambdaを呼び出す方法 LocalStackを使ってローカルPC上に開発環境を構築していたのですが、 1つのLambda関数ないからもう一つ別のLambda関数をboto3経緯でInvokeしたかったのですがうまく行かずにハ... 2021.09.21 AWSIaCPython
AWS 長いコマンドを複数行に分割して実行する方法(Windows) コマンドが長くなる場合に、コマンドを複数行に分けて見やすくしたいことがあるかと思います。 私の場合にはAWS CLIなどを使う際にかなり長くなるので分割したいことがよくあります。以前はMacで開発して... 2021.09.20 AWSLinuxMacPowershellWindows
Python SeleniumでSelectボックスの値を指定する方法 SeleniumでSelectボックスの値を指定する方法についてメモとなります。通常の要素と異なり、Selectボックスの値はSelectモジュールを利用します。はじめにSelectモジュールでセレク... 2021.09.19 Python
Python Pythonで改行より前の文字列だけ抽出する Pythonで改行(\n)が含まれていた場合に、\nより前の文字列だけを抽出したい場合の対応方法についてメモします。reで正規表現を使って抽出import resample_text = "あああ\n... 2021.09.18 Python
AWS AWS Lambda PythonでSeleniumとheadless-chromiumを使ってスクレイピングする方法 Seleniumを使ってスクレイピングをするスクリプトをAWS lambda上で動作させる際にハマったのでメモします。ちなみにLambdaのPythonバージョンが3.9だと以下の方法を実施してもSe... 2021.09.17 AWSIaCProgram学習Python
AWS AWS CLIでCloudWatch Logsのログをリアルタイムで確認する AWSでLambdaなどの開発を行っていると、Cloudwatch logsのログを確認したいと思う場合が多々あります。 aws logs tail --follow を使うことでいい感じにリアルタイ... 2021.09.16 AWS
Python BeautifulSoupでよく使うスクレイピングのやり方 「BeautifulSoup」とは、Pythonでスクレイピングするのに便利なライブラリです。「BeautifulSoup」を使うことで簡単にWEBサイト内のデータ解析を行う事ができます。よく使うスク... 2021.09.15 Python
Python seleniumでmouseoverする方法 seleniumでスクレイピングをしている際に、マウスオーバーを使う必要があったのでメモです。動的に画像を切り替えしているサイトなどではマウスオーバーを行ってから解析処理する必要があります。selen... 2021.09.14 Python
Python webdriver-mangerでSeleniumのChromeDriverを自動更新する 現在Seleniumを利用してツールを作っていたのですが、Chromeのバージョンが上がったタイミングで使っていたChromeDriverも更新する必要があります。少し面倒だと思っていたところ、「we... 2021.09.13 Python
AWS AWS CDKを使ってEC2の起動と停止を自動化してみた(python) LambdaとEventBridgeでEC2電源操作(起動と停止)を自動化し、それをAWS CDKでPythonでコード化してみました。Lambdaで特定のタグを持つ EC2 インスタンスの自動起動・... 2021.09.12 AWSIaCProgram学習