如何使用 Boto3 从 AWS Glue 数据目录中获取一个/多个指定爬虫的指标?
问题陈述-使用Python中的boto3库来检索指定爬虫的指标。
示例-检索指定爬虫crawler_for_s3_file_job的指标。
解决这个问题的方法/算法
步骤1-导入boto3和botocore异常以处理异常。
第2步-crawler_names是必需参数。它是一个列表,因此用户可以一次发送一个或多个爬虫名称以获取指标。
步骤3-使用boto3库创建AWS会话。确保在默认配置文件中提到region_name。如果未提及,则在创建会话时显式传递region_name。
第4步-为胶水创建一个AWS客户端。
第5步-现在使用get_crawler_metrics函数并传递crawler_names和CrawlerNameList参数。
第6步-它返回爬虫的指标。
第7步-如果检查作业时出现问题,则处理通用异常。
示例
使用以下代码检索指定爬虫的指标-
import boto3 frombotocore.exceptionsimport ClientError def retrieves_metrics_of_a_crawler(crawler_names:list) session = boto3.session.Session() glue_client = session.client('glue') try: crawler_details = glue_client.get_crawler_metrics(CrawlerNameList = crawler_names) return crawler_details except ClientError as e: raise Exception("boto3 client error in retrieves_metrics_of_a_crawler: " + e.__str__()) except Exception as e: raise Exception("Unexpected error in retrieves_metrics_of_a_crawler: " + e.__str__()) print(retrieves_metrics_of_a_crawler(["crawler_for_s3_file_job"]))输出结果
{'CrawlerMetricsList': [{'CrawlerName': crawler_for_s3_file_job, 'TimeLeftSeconds': 0.0, 'StillEstimating': False, 'LastRuntimeSeconds': 79.673, 'MedianRuntimeSeconds': 79.673, 'TablesCreated': 1, 'TablesUpdated': 0, 'TablesDeleted': 0}], 'ResponseMetadata': {'RequestId': '680cf4ca-********0abe', 'HTTPStatusCode': 200, 'HTTPHeaders': {'date': 'Sun, 28 Feb 2021 11:38:08 GMT', 'content-type': 'application/x-amz-json-1.1', 'content-length': '216', 'connection': 'keep-alive', 'x-amzn-requestid': '680cf4ca-******************0abe'}, 'RetryAttempts': 0}}