本文共 5008 字，大约阅读时间需要 16 分钟。
学习这一篇文章需要对前两篇有基础了解。如果你还没有学习过前两篇的内容，这篇文章可能会让你觉得有些难以理解。因此，我强烈建议你先回顾一下之前的学习内容。
在开始操作之前，我们需要先连接到数据库。为此，我定义了一个MySQLCommand类，用于配置数据库连接参数，并提供连接数据库的功能。以下是该类的代码示例：
# -*- coding: utf-8 -*-import pymysqlclass MySQLCommand(object): def __init__(self): self.host = 'localhost' self.port = 3306 # 端口号 self.user = 'root' # 用户名 self.password = "" # 密码 self.db = "home" # 数据库名称 self.table = "home_list" # 表名称 def connectMysql(self): try: self.conn = pymysql.connect( host=self.host, port=self.port, user=self.user, passwd=self.password, db=self.db, charset='utf8' ) self.cursor = self.conn.cursor() except: print('连接数据库失败.') 在连接数据库后，我们需要插入爬取到的新闻数据。为了确保数据的唯一性，我们需要解决两个问题：
我们可以通过检查数据库中的url字段来判断数据是否已经存在。具体实现如下：
def insertData(self, my_dict): table = "home_list" # 检查URL是否存在 sqlExit = "SELECT url FROM {0} WHERE url = ' {1} '".format(table, my_dict['url']) result = self.cursor.execute(sqlExit) if result: print("数据已存在，未插入数据.") return 0 为了生成唯一的主键ID，我们可以查询数据库中最后一条记录的ID，并将新数据的ID设置为最后一条ID加1。以下是实现代码：
def getLastId(self): sql = "SELECT max(id) FROM {0}".format(self.table) try: self.cursor.execute(sql) row = self.cursor.fetchone() if row[0]: return row[0] else: return 0 except: print("查询最后一条数据ID失败.") 以下是MySQLCommand类的完整代码：
# -*- coding: utf-8 -*-import pymysqlclass MySQLCommand(object): def __init__(self): self.host = 'localhost' self.port = 3306 self.user = 'root' self.password = "" self.db = "home" self.table = "home_list" def connectMysql(self): try: self.conn = pymysql.connect( host=self.host, port=self.port, user=self.user, passwd=self.password, db=self.db, charset='utf8' ) self.cursor = self.conn.cursor() except: print('连接数据库失败.') def insertData(self, my_dict): table = "home_list" sqlExit = "SELECT url FROM {0} WHERE url = ' {1} '".format(table, my_dict['url']) result = self.cursor.execute(sqlExit) if result: print("数据已存在，未插入数据.") return 0 try: cols = ', '.join(my_dict.keys()) values = '"," '.join(my_dict.values()) sql = "INSERT INTO {0} ({1}) VALUES ({2})".format( table, cols, '"{0}"'.format(values) ) try: result = self.cursor.execute(sql) insert_id = self.conn.insert_id() self.conn.commit() if result: print("插入成功，数据ID为 {}".format(insert_id)) return insert_id + 1 except pymysql.Error as e: self.conn.rollback() if "key 'PRIMARY'" in e.args[1]: print("数据已存在，未插入数据.") else: print("插入数据失败，原因 %d: %s" % (e.args[0], e.args[1])) except pymysql.Error as e: print("数据库操作失败，原因 %d: %s" % (e.args[0], e.args[1])) def getLastId(self): sql = "SELECT max(id) FROM {0}".format(self.table) try: self.cursor.execute(sql) row = self.cursor.fetchone() if row[0]: return row[0] else: return 0 except: print("查询最后一条数据ID失败.") def closeMysql(self): self.cursor.close() self.conn.close() 以下是将爬虫爬取到的数据插入数据库的完整代码：
# -*- coding: utf-8 -*-from bs4 import BeautifulSoupfrom urllib import requestimport chardetfrom db.MySQLCommand import MySQLCommandurl = "https://www.huxiu.com"response = request.urlopen(url)html = response.read()charset = chardet.detect(html)html = html.decode(str(charset['encoding']))soup = BeautifulSoup(html, 'html.parser')article_list = soup.select('.hot-article-img')mysqlCommand = MySQLCommand()mysqlCommand.connectMysql()dataCount = int/mysqlCommand.getLastId()) + 1for news in article_list: if not news.select('a'): continue href = url + news.select('a')[0]['href'] try: imgUrl = news.select('img')[0]['src'] except: imgUrl = "" title = news.select('a')[0]['title'] or "" news_dict = { "id": str(dataCount), "title": title, "url": href, "img_path": imgUrl } try: result = mysqlCommand.insertData(news_dict) if result: dataCount = result except Exception as e: print("插入数据失败，原因：%s" % str(e))mysqlCommand.closeMysql() 到此，Python3爬虫+MySQL数据库篇的实战入门系列就基本完成了。希望这些代码示例和解释能够帮助你顺利完成数据的存储和管理工作。
转载地址：http://hflfk.baihongyu.com/