Pandas基础07(Csv/Excel/Mysql数据的存储与读取)

[MySQL] 用Python读取MySQL中的数据 用python导入MySQL数据 阅读详情

Pandas数据加载

在数据科学和机器学习的流程中,数据的加载与存储是非常重要的一环。Pandas是Python中用于数据处理的强大库,它提供了多种方式来加载和保存数据,支持不同的数据格式,如CSV、Excel以及数据库(例如MySQL)。本篇博客将详细介绍如何使用Pandas来加载和保存数据。

基本数据创建与操作

首先,我们通过Pandas创建一个基本的DataFrame,并填充一些随机生成的数据。以下是代码示例:

import numpy as np
import pandas as pd

# 创建一个DataFrame,包含8行3列,随机整数数据
df = pd.DataFrame(np.random.randint(0, 100, size=(8, 3)), columns=['Chinese', 'Math', 'English'])

# 显示创建的DataFrame
df
3.7.1. CSV 数据加载与存储

CSV(逗号分隔值)是最常见的数据存储格式之一,Pandas提供了简便的API来将数据存储为CSV文件以及从CSV文件加载数据。

1.存储为CSV文件

使用to_csv()方法可以将DataFrame保存为CSV文件。代码如下:

# 存储为CSV文件
df.to_csv("data.csv", header=True, index=False)

参数说明:

  • header=True: 表示保存列名。
  • index=False: 表示不保存行索引。
2 读取CSV文件

使用read_csv()方法可以读取CSV文件并将其转换为DataFrame。代码如下:

# 读取CSV文件
df_csv = pd.read_csv("data.csv")

此外,还可以使用sep参数来设置分隔符,默认情况下是逗号(,)。如果数据的分隔符是其他符号(如制表符\t),可以通过修改sep来指定。

3.7.2. Excel 数据加载与存储

Excel文件是另一种常见的数据存储格式,Pandas提供了很方便的方法来处理Excel文件。

1 存储为Excel文件

使用to_excel()方法可以将DataFrame存储为Excel文件。代码如下:

# 存储为Excel文件
df.to_excel('data.xlsx', sheet_name='score', header=True, index=False)

参数说明:

  • sheet_name='score': 指定工作表的名称。
  • header=True: 表示保存列名。
  • index=False: 表示不保存行索引。
2 读取Excel文件

读取Excel文件时,使用read_excel()方法。代码如下:

# 读取Excel文件
df_excel = pd.read_excel('data.xlsx')

同样,你可以使用sheet_name来指定要读取的工作表名称。

3.7.3. 从MySQL加载与存储数据

除了文件格式,Pandas还可以直接与数据库(例如MySQL)进行交互。为了从MySQL数据库加载和保存数据,首先需要安装pymysql和sqlalchemy。

1 安装依赖

在命令行中执行以下命令来安装所需的库:

pip install pymysql -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install sqlalchemy -i https://pypi.tuna.tsinghua.edu.cn/simple
2 存储数据到MySQL

通过SQLAlchemy库,我们可以连接MySQL数据库,并使用to_sql()方法将DataFrame存储到数据库中的指定表。代码如下:

from sqlalchemy import create_engine, text

# 连接MySQL数据库
conn = create_engine('mysql+pymysql://root:123456@localhost:3306/db_student')

# 将DataFrame存储到数据库
df.to_sql(
    name='score',  # 数据库表名
    con=conn,      # 数据库连接
    index=False,   # 是否保存行索引
    if_exists='append'  # 如果表存在,追加数据
)

参数说明:

  • name='score': 指定要存储的数据库表名。
  • if_exists='append': 如果表已经存在,数据将被追加。
3 从MySQL读取数据

使用read_sql()方法可以执行SQL查询并将结果加载为DataFrame。代码如下:

# 执行SQL查询,读取MySQL数据
sql = "SELECT * FROM score"
df_mysql = pd.read_sql(sql=text(sql), con=conn)
python基础函数,装饰器及连接数据库及读取execl文件,csv文件5 open(file,模式)#打开文件并返回文件对象,模式可选,默认只读’r’,‘w’覆盖写模式,‘a’追加写模式,encoding字符编码一般utf8。def 装饰器名(func):#func相当于接收被加强的函数的函数名,习惯写func写别的也可以。数据库链接pymysql;def 函数名(形参列表):#形参列表可以有0或多个参数,用应为,分割。def 内部函数名(形参列表):#形参列表相当于被加强的函数的参数列表。变量名=函数名(实参列表)#实参列表要与形参列表一致(有返回值) 阅读详情

相关推荐

pandas读取和保存excel文件

【代码】pandas读取和保存excel文件。

LvManBa的博客 1123

pandas入门01——excel的读取和保存

目录一、学习参考二、excel文件的读取、保存。1.最简单读取和保存 2.保存文件-设置索引3.读取文件-获取sheet 4.读取文件-指定表头所在行5.读取文件-设置新表头6.读取文件-设置索引列(index_col参数)7.读取文件-读取指定列(usecols参数)8.读取文件-设置维度(squeeze参数)9.读取文件-设置数据类型(dtype参数) 10.读取文件-转换类型11.读取文件-设置需要读取的行数(nrows)12.读取文件-(skiprows)表示跳过指定行数的数据,从头部第一行开始。1

小橙子的博客 1万+

软件测试面试题汇总

软件测试面试题汇总 测试技术面试题 ........................................................................................................................................................................ 5 1、什么是兼容

晴天的专栏 2万+

pandas存储excel方法

pandas存储excel方法 举例说明 注意一定要用双"\\"或者单向逆斜杠"/"演示结果

weixin_48572116的博客 8898

用友U8接口开发全攻略:从EAI到OpenAPI的5种方式详解(附避坑指南)

本文深度解析了用友U8系统接口开发的五种核心方式:EAI、API、OpenAPI、SQL直连与内部CO组件。文章详细对比了各方式的适用场景、优缺点及实战操作,并提供了清晰的选型决策框架与避坑指南,帮助开发者根据具体业务需求选择最高效、最稳定的集成路径。

weixin_29322855的博客 663

echarts实现折线图上下限区域展示

效果图: 画这种区域中主要是利用了series的两个属性: 思路:上下限都画上区域,然后折线利用图形透明度隐藏,给上区域加上颜色,给下区域加上白色(echarts图背景是啥色,就加啥色) lineStyle: { opacity: 0 }, // 图形透明度。支持从 0 到 1 的数字,为 0 时不绘制该图形 areaStyle: { color: 'rgba(0,122,255,0.1)' }, // 填充的颜色 我的需求是最大天数、最小天数、

小太阳的博客 1万+

【数据分析】Pandas处理excel--导入+保存xlsx

首先实现安装好pandas(pip命令安装)本节案例数据表lesson4.xlsx。

Cannta的博客 3330

ZYNQ新手必看:你的PS端DDR和QSPI配置真的对了吗?从原理到实操的避雷指南

本文深入解析ZYNQ PS端外设配置的关键要点,特别是DDR匹配和QSPI时钟优化的实战技巧。通过详细案例和配置清单,帮助开发者避免常见错误,确保系统稳定性和启动可靠性。适合ZYNQ新手和需要优化最小系统的开发者参考。

weixin_28675839的博客 440

pandas如何保存在excel里面_pandas指南:做更高效的数据科学家

云栖君导读:Python是开源的,所以有很多开源固有的问题。如果你是Python新手,很难知道针对特定任务的包哪个是最好的。你需要有经验的人来告诉你。今天我要告诉你们的是:在数据科学中,有一个软件包是你们需要学习的,那就是pandas。而pandas真正有趣的地方是,很多其他的包也在里面。pandas是一个核心包,因此它具有来自其他各种包的特性。pandas类似于Python中的Exce...

weixin_39816448的博客 666

以TMS320F28069为例,如何使用CCS建立DSP工程文件

以TMS320F28069为例,本文主要介绍了使用CCS建立DSP工程的流程

Honglong 2550

Pspice开关电源仿真:从零实现反激式电源设计实战案例

通过Pspice仿真工具,手把手实现反激式开关电源的设计与优化,深入剖析关键参数设置与波形分析,帮助掌握Pspice在电源开发中的实际应用技巧。

weixin_35756690的博客 1150

使用pandas读取和保存csv、excel、mysql文件

一、读取和保存scv文件 pandas内置了10多种数据源读取函数,常见的就是CSV和EXCEL 使用read_ csv方法读取,结果为dataframe格式 在读取csv文件时,文件名称尽量是英文 参数较多,可以自行控制,但很多时候用默认参数 读取csv时,注意编码,常用编码为utf-8、gbk、gbk2312和gb18030等 使用to_ csv方法快速保存 df = pd.read.c...

weixin_44947339的博客 2045

YOLOv11改进策略【SPPF】| AIFI : 基于Transformer的尺度内特征交互,在降低计算成本的同时提高模型的性能

本文记录的是基于AIFI模块的YOLOv11目标检测改进方法研究。AIFI是RT-DETR中高效混合编码器的一部分,利用其改进YOLOv11模型,

Limiiiing的博客 2236

Pandas系列-读取csv/excel/mysql数据

02. Pandas读取数据 本代码演示: pandas读取纯文本文件 读取csv文件 读取txt文件 pandas读取xlsx格式excel文件 pandas读取mysql数据表 import pandas as pd 1、读取纯文本文件 1.1 读取CSV,使用默认的标题行、逗号分隔符 fpath = "./datas/ml-latest-small/ratings.csv" ...

蚂蚁学Python 802

基于STM32F1XX 、HAL库的LTR-303ALS-01 环境光传感器驱动应用C语言程序设计

printf("制造商ID: 0x%02X\r\n", LTR303_ReadManufacID());printf("器件ID: 0x%02X\r\n", LTR303_ReadPartID());LTR-303ALS-01是一款数字环境光传感器(ALS),由Lite-On公司生产。printf("LTR-303ALS初始化失败!printf("LTR-303ALS初始化成功!printf("数据无效\r\n");* @param mode: 0-待机, 1-激活。

PP_Cottage的博客 1028

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

掌握基础的pandas读取数据

在当今的数据驱动时代,数据的获取和处理是数据分析和机器学习项目中不可或缺的一环。Python作为一种强大的编程语言,提供了多种读取数据源数据的库和方法。在这篇博客中,我们将探讨使用pandas库来读取不同来源的数据。通过掌握pandas的基础读取功能,你可以轻松地从各种数据源中获取数据,并开始你的数据分析和处理之旅。无论你是处理CSV文件、Excel文件、数据库查询结果还是API数据,pandas都为你提供了强大的支持。

youganma的博客 2084

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

pandas数据读取与存储

数据读取与存储1常用数据的读取1.1读取csv文件1.2使用read_table读取数据1.3读取mysql数据(未使用ssh通道)1.4读取excel数据1.5读取Mongodb数据1.6读取api接口数据2.常用数据的存储2.1写入csv文件2.2写入excel文件2.3写入数据库中 1常用数据的读取 1.1读取csv文件 import pandas as pd 例:data= pd.read...

python_new的博客 7601

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

Pandas读取保存数据

写文件方法读取文件,常用参数如下index_col指定索引列列下标指定为索引列名指定为索引对指定列解析为时间日期类型将指定的列解析为时间日期类型通过列下标解析该列为时间日期类型通过列名解析该列为时间日期类型将df的索引解析为时间日期类型指定字符分隔符为\t读取tsv文件Pandas和MySQL进行交互(读写)# 需要安装 pip istall pymysql# 需要安装 pip istall sqlalchemy# 导入sqlalchemy的数据库引擎。

骑着居居追飞机的博客 1538

pandas数据加载(csv、excel、json、mysql、webAPI)

pandas 是基于NumPy 的一种工具,该工具是为解决数据分析任务而创建的。Pandas 纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具。Pandas的名称来自于面板数据(panel data)和python数据分析(data analysis)。pandas提供了大量能使我们快速便捷地处理数据的函数和方法。它是使Python成为强大而高效的数据分析环境的重要因素之一。 数据的输入是数据分析的第一步,如果不能将数据快速方便的导入导出python,那么pandas不可能成为强大而.

学而思(xiejava的blog) 2771

Pandas系列-读取csv/txt/excel/mysql数据

本代码演示: pandas读取纯文本文件 读取csv文件 读取txt文件 pandas读取xlsx格式excel文件 pandas读取mysql数据表 import pandas as pd 1、读取纯文本文件 1.1 读取CSV,使用默认的标题行、逗号分隔符 fpath = "./datas/ml-latest-small/ratings.csv" # 使用pd.read_...

weixin_30278311的博客 316

pandas读取csv写入mysql_使用Pandas读取Excel、csv、mysql等文件存入到MySQL

数据处理步骤:1、Pandas读取数据(如:excel、csv等)2、对数据做过滤、统计分析3、Pandas将数据存储到MySQL,用于Web页面的页面显示,或是对后序进一步的SQL分析(处理后的数据)步骤一:准备数据import pandas as pddf = pd.read_excel('C:/Users/xhl/Desktop/input/class.xlsx')#为索引加上名称为id,以...

weixin_35433448的博客 744

Pandas载入txt、csv、Excel、JSON、数据库文件讲解及实战(超详细 附源码)

Pandas载入txt、csv、Excel、JSON、数据库文件讲解及实战(超详细 附源码)

showswoller的博客 3198

数据挖掘工具pandas(十三)对csv、excel、mysql读取和存储

一,pd对于csv文件的读取和存储 1,pd读取csv文件 df_xml = pd.read_csv("./outputs/"+table+".csv", engine='python', encoding='utf_8_sig') 2,pd存储csv文件 df.to_csv("./outputs/df_xml.csv", index=False, mode='w', header=True, encoding='utf_8_sig') 二,pd对于excel文件的读取和存储 1,pd读取excel

TFATS的博客 604

用 Python 处理 CSV 和 Excel 文件

CSV(Comma-Separated Values,逗号分隔值)文件是一种简单的文本文件格式,用于存储表格数据,其中每一行代表一条记录,行中的每个字段通过逗号分隔。CSV 文件通常用于数据交换和存储。它的优点是简单、轻量、易于读取和写入,缺点是无法存储复杂的格式和公式。Excel 文件是一种用于电子表格的文件格式,支持表格数据、公式、图表和其他格式化内容。.xls:Excel 97-2003 的文件格式,基于二进制格式。.xlsx。

想看什么文章都可以私信给我,综合性博客。 1970

Pandas读取数据:csv、excel、sql全攻略

核心函数速查python# CSV# Excel# SQL# 其他pd.read_html() # HTML表格pd.read_clipboard() # 剪贴板pd.read_parquet() # Parquet(列式存储,推荐大文件)数据读取最佳实践1. 预览数据:先用 nrows=5 快速查看结构2. 指定类型:手动指定dtype可大幅节省内存3. 处理缺失值:使用 na_values 统一标记4. 日期列:用 parse_dates 提前解析。

m0_51069462的博客 729

pandas 读表格_pandas数据读取

今天呢就给大家分享一个数据分析里面的基础内容之pandas数据读取数据读取是进行数据预处理,建模与分析的前提,不同的数据源,需要使用不同的函数读取,pandas内置了10余种数据源读取函数和对应的数据写入函数,常见的数据源有3种,分别是数据库数据,文本文件(包含一般文本文件和CSV文件)和Excel文件,掌握这三种数据源读取方法,便能够完成80%左右的数据读取工作。下面我们具体瞅瞅;读/写数据库数...

weixin_39861624的博客 3008
上一篇: Pandas基础06(异常值的检测与过滤/抽样/常用聚合函数/数据聚合)
下一篇: Pandas基础08(分箱操作/时间序列/画图)
XYX的Blog
博客等级 码龄4年 841粉丝 138原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值