支持开票 | Python实证指标构建与文本分析:微动态
2022-12-24 09:34:05 来源:
付费课程 |支持开票|购前咨询 微信372335839概览为何要学Python?

在科学研究中,数据的获取及分析是最重要的也是最棘手的两个环节!

在前大数据时代,一般使用实验法、调查问卷、访谈或者二手数据等方式,将数据整理为结构化的表格数据,之后再使用各种计量分析方法,对这些表格数据进行分析。但大数据时代,网络数据成为各方学者亟待挖掘的潜在宝藏,大量商业信息、社会信息以文本等非结构化、异构型数据格式存储于海量的网页中。那么对于经管为代表的人文社科类专业科研工作者而言,通过Python可以帮助学者解决使用Web数据进行科研面临的两个问题:


(资料图)

网络爬虫技术解决 如何从网络世界中高效地采集数据?文本分析技术解决 如何从杂乱的文本数据中 抽取文本指标(变量)?一、Python语法入门

Python跟英语一样是一门语言

数据类型之字符串

数据类型之列表元组集合

数据类型之字典

数据类型之布尔值、None

逻辑语句(if&for&tryexcept)

列表推导式

理解函数

常用的内置函数

内置库文件路径pathlib库

内置库csv文件库

内置库正则表达式re库

初学python常出错误汇总

二、数据采集

网络爬虫原理

网络访问requests库

网页解析pyquery库

案例豆瓣读书

案例Boss直聘

如何解析json数据

案例豆瓣电影

案例京东商城

案例用爬虫下载文档及多媒体文件

案例上市公司定期报告pdf批量下载

案例上交所招股说明pdf批量下载

案例深交所招股说明pdf批量下载

爬虫知识点总结

三、初识文本分析

从编码/解码视角重新理解文本

读取不同格式文件中的数据

如何将多个txt文件整理到一个excel中

案例中文分词及数据清洗

案例词频统计&词云图

案例共现法扩展情感词典(领域词典)

案例词向量word2vec扩展领域词典

案例中文情感分析(词典法)

cntext库 情感分析代码操作

案例对excel中的文本进行情感分析 91

案例 语言具体性与心理距离 | 以JCR2021论文为例

案例 使用MD&A数据测量企业数字化| 以管理世界2021、财经研究2022论文为例

四、机器学习与文本分析

了解机器学习ML

使用机器学习做文本分析的流程

scikit-learn机器学习库简介

文本特征抽取(特征工程)

案例在线评论文本分类

使用标注工具对数据进行标注

案例计算文本情感分析(有权重)

案例 文本相似性计算

案例 使用文本相似性识别变化(政策连续性)

案例 Kmeans聚类算法

案例 LDA话题模型

使用机器学习从图片中提取文本信息

五、词嵌入与认知

词嵌入原理及应用概述

案例 豆瓣影评-训练词向量&使用词向量

案例 使用词向量做话题建模

案例 认知指标(态度、偏见等)的测量

总结-文本分析在社科(经管)领域中的应用

相关文献

在这里我把技术细分为词频、词袋、w2v建词典、w2v认知变迁四个维度,整理了经管7篇论文。大家可以阅读这7篇论文,掌握文本分析的应用场景。

[1]沈艳,陈赟,&黄卓.(2019).文本大数据分析在经济学和金融学中的应用:一个文献综述.经济学(季刊),18(4),1153-1186.[2]王伟,陈伟,祝效国,王洪伟.众筹融资成功率与语言风格的说服性-基于Kickstarter的实证研究.*管理世界*.2016;5:81-98.[3]胡楠,薛付婧,王昊楠.管理者短视主义影响企业长期投资吗?——基于文本分析和机器学习[J].管理世界,2021,37(05):139-156+11+19-21.[4]KaiLi,FengMai,RuiShen,XinyanYan,MeasuringCorporateCultureUsingMachineLearning,*TheReviewofFinancialStudies*,2020[5]LoughranT,McDonaldB.Textualanalysisinaccountingandfinance:Asurvey[J].*JournalofAccountingResearch*,2016,54(4):1187-1230.AuthorlinksopenoverlaypanelComputationalsocioeconomics[6]Berger,Jonah,AshleeHumphreys,StephanLudwig,WendyW.Moe,OdedNetzer,andDavidA.Schweidel."Unitingthetribes:Usingtextformarketinginsight."*JournalofMarketing*84,no.1(2020):1-25.[7]Cohen,Lauren,ChristopherMalloy,andQuocNguyen."Lazyprices."*TheJournalofFinance*75,no.3(2020):1371-1415.[8]孟庆斌,杨俊华,鲁冰.管理层讨论与分析披露的信息含量与股价崩盘风险——基于文本向量化方法的研究[J].*中国工业经济*,2017(12):132-150.[9]Wang,Quan,BeibeiLi,andParamVirSingh."Copycatsvs.OriginalMobileApps:AMachineLearningCopycat-DetectionMethodandEmpiricalAnalysis."*InformationSystemsResearch*29.2(2018):273-291.[10]Packard,Grant,andJonahBerger.“Howconcretelanguageshapescustomersatisfaction.”_JournalofConsumerResearch_47,no.5(2021):787-806.[11]冉雅璇,李志强,刘佳妮,张逸石.大数据时代下社会科学研究方法的拓展——基于词嵌入技术的文本分析的应用[J].南开管理评论:1-27.[12]曾庆生,周波,张程,陈信元.年报语调与内部人交易:“表里如一”还是“口是心非”?[J].管理世界,2018,34(09):143-160.[13]彭红枫,&林川.(2018).言之有物:网络借贷中语言有用吗?——来自人人贷借款描述的经验证据[J].金融研究,461(11),133-153.[14]吴非,胡慧芷,林慧妍,and任晓怡.“企业数字化转型与资本市场表现——来自股票流动性的经验证据[J].”管理世界(2021).

免费公开资料-社会科学文本挖掘资料汇总

公众号和博客积累了大量社会科学文本挖掘资料,涵盖文本分析概念、技术、代码、数据等。全部理清楚感兴趣的可以关注收藏。

https://hidadeng.github.io/blog/the_text_analysis_list_about_ms/

文献类

读完本文你就了解什么是文本分析

转载 | 金融学文本大数据挖掘方法与研究进展

视频 | Python文本分析与会计

视频 |文本分析在经管研究中的应用

视频| Python文本挖掘与金融科技

资料 | 量化历史学与经济学研究

近年《管理世界》《管理科学学报》使用文本分析论文

管理世界 | 使用中文LM金融词典做管理层语调分析

管理世界 | 使用文本分析&机器学习测量短视主义

管理世界 | 使用 经营讨论与分析 测量 企业数字化指标

文本分析在市场营销研究中的应用

营销研究中文本分析应用概述(含案例及代码)

计算文本的语言具体性 | 以JCR2021论文为例

文本分析方法在2021管理世界中的应用

转载 | 大数据时代下社会科学研究方法的拓展——基于词嵌入技术的文本分析的应用

文本可读性研究及应用清单

词嵌入测量不同群体对某概念的态度(偏见)

PNAS | 文本网络分析&文化桥梁Python代码实现

PNAS | 历史语言记录揭示了近几十年来认知扭曲的激增

PNAS | 情侣分手3个月前就有预兆!聊天记录还能反映分手后遗症

PNAS|词汇熟悉度对线上参与和资金筹集的预测性效用

MS | 使用网络算法识别创新的颠覆性与否

文本可读性研究及应用清单

代码类

Python语法入门 | 含视频代码

30天Python编程学习挑战

中文金融情感词典

在会计研究中使用Python进行文本分析

Python与文化分析入门

免费社科类Python编程课程列表

tomotopy库 | 速度最快的LDA主题模型

cntext库 | 中文情感分析包

认知的测量 | 向量距离vs语义投影

BERTopic主题建模库

doccano|为机器学习建模做数据标注

PyPlutchik库 | 可视化文本的情绪轮(情绪指纹)

WordBias库 | 发现偏见(刻板印象)的交互式工具

whatlies库 | 可视化词向量

KeyBERT | 关键词发现库

FinBERT | 金融文本BERT模型,可情感分析、识别ESG和FLS类型

Top2Vec | 主题建模和语义搜索库

tfidf有权重的情感分析

Shifterator库 | 词移图分辨两文本用词风格差异

使用Pandas处理文本数据

Label-Studio|多媒体数据标注工具

工具分享 | 正则表达式解析

EmoBank | 中文维度情感词典

Maigret库 | 查询某用户名在各平台网站的使用情况

百度指数 | 使用qdata采集百度指数

Asent库 | 英文文本数据情感分析

安装python包出现报错:Microsoft Visual 14.0 or greater is required. 怎么办?

Python | 词移距离(Word Mover"s Distance)

豆瓣影评| 探索词向量妙处

karateclub库 | 计算社交网络中节点的向量

causalinference库 | 使用Python做因果推断

机器学习实战 | 信用卡欺诈检测

实战 | 构建基于客户细分的 K-Means 聚类算法!

nlp-roadmap | 文本分析知识点思维脑图

R语言 | ggplot2简明绘图之散点图

R语言 | 使用posterdown包制作学术会议海报

R语言 | 使用ggsci包绘制sci风格图表

R语言 | ggpubr包让数据可视化更加优雅

R语言 | 让统计更easy的easystats集合包

R语言 | 使用shiny的reactive表达式写应用程序

R语言 | 使用stargazer包输出格式化回归结果

R语言 | 使用word2vec词向量模型

Latex | 为Rmarkdown配置tinytex环境

LovelyPlots库 | 格式化科学论文、论文和演示文稿的可视化图形

数据集

YelpDaset | 酒店管理类数据集10+G

70G上交所年报数据集

14G数据集 | 2007-2021年A股上市公司年度报告(txt文件)

17G资源 | 深交所企业社会责任报告

27G数据集 | 使用Python对27G招股说明书进行文本分析

1850万条 | 世界地图POI兴趣点数据集

1.5G数据集 | 200万条Indiegogo众筹项目信息

12G数据集 | 23w条Kickstarter项目信息

中文语义常用词典 | ChineseSemanticKB

中文词向量资源汇总 & 使用方法

NLP资源 | 汽车、金融等9大领域预训练词向量模型下载资源

Google Books Ngram Viewer显示英文词汇历史使用趋势

支持开票 | Python实证指标构建与文本分析:微动态

2022-12-24

中亚股份: 监事会关于第四届监事会第十七次会议相关事项的书面审核意见

2022-12-23

恒锋信息:公司未涉及相关业务。公司将按照相关规定在定期报告披露对应报告期末股东人数

2022-12-23

银行理财、基金跌麻了,保险真能成为理财的尽头吗

2022-12-23

两部门下达54.76亿元救灾资金 保障受灾群众安全温暖过冬

2022-12-22

马化腾:留给腾讯某些业务的时间不多了,内部贪腐问题触目惊心

2022-12-22

环球精选!华熙生物(688363)12月21日主力资金净买入51.41万元

2022-12-22

进一步活跃市场 河南多地发放纾困解难消费券

2022-12-21

《回来的女儿》迷雾剧场今日开播张子枫王砚辉梅婷重回90年代:天天精选

2022-12-21

尊享贷逾期九年不还会上征信吗 每日快看

2022-12-21

短期会跌破3000点吗|今日要闻

2022-12-20

要闻速递:12月贷款市场报价利率出炉,1年期和5年期以上利率均维持不变

2022-12-20

三湘印象: 独立董事关于第八届董事会第十一次(临时)会议相关事项的独立意见-最新消息

2022-12-19

朗玛信息董秘回复:公司39互联网医院依托贵阳六医已签约2000多名医学专家

2022-12-19

A股异动 | 中鼎股份涨逾4% 子公司中鼎流体获得供应商项目定点书 生命周期总金额7.16亿元

2022-12-19

世界观焦点:商水:“黑科技”成为“超级农田”高产的助推器

2022-12-19

深度|漩涡中的快钱:涨价质疑未平 押金争议、套现风险何解?:天天观察

2022-12-18

疫情数据与群众感受不一致?咋不再公布无症状信息?中疾控回应

2022-12-17

新零售@2022: 调料、精酿、预制菜

2022-12-17

环球资讯:个人独资企业债务怎么处理?

2022-12-16

世界即时看!农商行贷款到账如何提现

2022-12-16

读者称赞《神医农女,国舅每天求翻牌》优质片段让人过目不忘|天天要闻

2022-12-15

上汽享道Robotaxi正式启动临港运营

2022-12-15

最新:国药股份董秘回复:公司以国药集团、国药控股“十四五”战略规划为指引

2022-12-15

尚太科技(001301.SZ):网上路演时间为12月16日14:00-17:00 全球最资讯

2022-12-14

世界头条:​洛阳市老城区道北路街道举办国潮故事会“亲子互动庆端午”

2022-12-14

康冠科技等69股获陆股通增仓超50%:焦点热议

2022-12-14

华发股份拟对“21华发05”付息 票面利率4.69%:环球播报

2022-12-13

每日热议!涨停雷达:物流个股异动 长江投资触及涨停

2022-12-13

中国动力: 中国船舶重工集团动力股份有限公司关于与中船财务有限责任公司签署2022年度金融服务协议之补充协议暨关联交易的公告

2022-12-12

徐州移动“三封信”做实做细员工精神激励|今日热搜

2022-12-12

节能风电(601016)14.63亿股限售股将于12月13日解禁上市,占总股本29.18%

2022-12-12

天保基建董秘回复:公司严格按照相关法律法规履行信息披露义务,如有相关重大事项公司会及时进行披露_世界热文

2022-12-09

全球快消息!东港股份董秘回复:区块链技术可以用于实现您所描述的相关业务

2022-12-08

建发国际集团(01908.HK)拟收购福建兆润100%股权

2022-12-06

老凤祥欧亚卖场藏宝金豪华店开业 李凤鸣穿“中国红”出席剪彩仪式

2022-10-08

印度黄金进口量上升至10年来的最高水平 销售几乎翻了一番

2022-03-21

卡地亚母公司历峰集团收入大涨35%至56.6亿欧元

2022-03-21

世界钻石巨头Alrosa 2021年全年收入同比上涨49%

2022-03-21

2021年戴比尔斯四季度毛坯钻产量同比上升15%

2022-03-21

2021年彩钻均价上涨1.7% 其中蓝钻表现最佳

2022-03-21

博茨瓦纳银行2021年毛坯钻销售额同比上涨63.5%

2022-03-21

2021年全年金银珠宝零售总额3041亿元同比上涨29.8%

2022-03-21

黄金消费饰品化、年轻化是本轮黄金首饰消费的支撑力所在

2022-03-21

西班牙轻奢珠宝品牌TOUS 2021财年营收同比上涨37%

2022-03-21

培育钻石上游不存在产能限制更适合细分功能赛道

2022-03-21

因钻石价格稳步上涨 钻石珠宝制造商面临史无前例的艰难时期

2022-03-20

我国珠宝行业产业链毛利率呈现“微笑曲线”

2022-03-20

黄金类产品毛利率与金价具有一定正相关性

2022-03-20

股价一跌再跌!迪阿股份股价创上市以来新低

2022-03-20

婚庆钻饰存量和时尚饰品市场双击下 培育钻石前景广阔

2022-03-20

成品钻价格大幅上涨 1克拉RAPI飙升6.9%

2022-03-20

门店密度测算:一线城市门店密度上限与城市GDP成正比

2022-03-20

澳大利亚阿盖尔矿关闭!世界第四大钻石矿寿命即将到期

2022-03-20

终端需求强劲 大克拉裸钻整体提价明显

2022-03-20

2022年钻石及其制品将持续涨价且有价有市

2022-03-20

钻石价格已上调0% 现在是购买钻石的最佳时机

2022-03-20

钻石价格突然飚涨 创下2011年以来最大单月涨幅纪录

2022-03-20

珠宝行业有望受益于黄金工艺改善带来的高景气度

2022-03-20

四季度印度零售商铂金饰品销售额同比上涨40%

2022-03-20

2021年彩钻均价上涨1.7%黄钻平均上涨0.9% 蓝钻表现最佳

2022-03-20

博茨瓦纳2021年毛坯钻销售额同比上涨63.5%

2022-03-20

颜值时代下 美妆珠宝饰品需求旺盛 行业高景气度持续

2022-03-20

2月份黄金珠宝GMV同比上涨49%港资品牌表现亮眼

2022-03-20

珠宝首饰板块指数报398.71点 涨幅达0.16%

2022-03-20

再贵的蜜蜡 你戴上照样是丑 把蜜蜡戴出时尚范的秘诀

2022-03-20

设计界的天才!德国纪念钻石品牌Ode将亮相中国展区

2022-03-20

女生戒指的戴法和意义是什么呢?

2022-03-20

男士戒指的佩戴法和意义是什么?

2022-03-20

商务部:今年以来我国消费市场呈现稳步恢复态势

2022-03-20

苏州疫情防控再升级:通过铁路离开苏州旅客须提供48小时内核酸检测阴性证明

2022-02-16

“江歌案”二审开庭 江秋莲因身体原因未出庭

2022-02-16

从收受500元开始 他走向深渊

2022-02-16

春季学期即将开学 海南要求校园常态化开展师生核酸检测

2022-02-16

辽宁葫芦岛:派出124名渔业执法人员进驻22座渔港 设立检测点

2022-02-16

葫芦岛昨日采集核酸样本105.5万人 新出现病例的封控小区每人每日单检

2022-02-16

辽宁葫芦岛:截至15日农村地区共居家隔离4029人

2022-02-16

辽宁葫芦岛2月15日新增15例确诊病例 均为绥中县报告

2022-02-16

内蒙古新增本土确诊病例7例

2022-02-16

辽宁葫芦岛新增15例本土确诊病例行程轨迹公布

2022-02-16

江苏新增本土确诊病例19例 其中苏州市18例、南通市1例

2022-02-16

广东新增本土确诊病例3例 均为深圳报告

2022-02-16

广西新增本土确诊病例2例 百色市报告

2022-02-16

上海浦东一厂区生产设备倒塌6人被困 搜救工作正在进行

2022-02-16

辽宁省新增15例本土新冠肺炎确诊病例 为葫芦岛市报告

2022-02-16

我国中东部地区将有一次明显雨雪天气过程

2022-02-16

北京今日晴冷继续“控场” 最高气温仍不足0℃

2022-02-16

云南新增1例本土无症状感染者

2022-02-16

内蒙古呼和浩特发现3例核酸检测阳性人员

2022-02-16

撸猫狗追大象 这届年轻人为什么那么喜欢动物

2022-02-16

喊父母回家上班:一道超越亲情的复杂考题

2022-02-16

医护人员追求“事业蒸蒸日上”哪里做错了

2022-02-16

男子饭局后猝死家属索赔 法院判决同桌人承担责任

2022-02-16

女子推倒性骚扰男子致其死亡不担责 认定属于正当防卫

2022-02-16

江西瑞昌警方打掉一境外“杀猪盘”电诈团伙

2022-02-16

“杀熟”猖獗,为何还有人不断入局?

2022-02-16

规范医生直播行为需要多管齐下

2022-02-16

不到3天,被拖欠21年的社保费有着落了

2022-02-16

学历障碍破除后,职校生如何跻身更好赛道

2022-02-16

桑树有两套染色体基数? 西南大学十年研究首次揭秘

2022-02-16