1001 Freelance Projects
Latest Projects from
Freelance Marketplaces
View Project
View this project in detail
(Note: you will be redirected to external marketplace)
Project title:
web scraping solution
Posted by:
External project from PeoplePerHour
Started:
10-Dec-2024 04:53 GMT
Description:
Requerimiento: Solución de Web Scraping para Portales de Medios de Información
Objetivo del Proyecto
Diseñar e implementar una solución automatizada de web scraping para recopilar información de portales de medios de información. Los datos recolectados deberán ser almacenados en una base de datos mediante la ejecución de un procedimiento almacenado (stored procedure) en SQL.
________________________________________
Alcance
1. Realizar scraping en sitios web de medios de información predefinidos, incluyendo, pero no limitado a:
o Noticias nacionales
o Noticias internacionales
o Deportes
o Entretenimiento
o Economía
2. Recolectar información clave, como:
o Título de la noticia
o Fecha de publicación
o Autor (si está disponible)
o Resumen o encabezado
o Contenido completo del artículo
o Categoría o sección del portal
o URL de la noticia
o Fuente del medio
3. Guardar los datos en una base de datos SQL mediante un stored procedure que permita:
o Validar la integridad de los datos antes de insertarlos.
o Evitar duplicidad de registros.
________________________________________
Requerimientos Funcionales
1. Extracción de Datos:
o Implementar un módulo para realizar scraping de páginas HTML dinámicas y estáticas.
o Manejar sitios con diferentes estructuras HTML, incluyendo aquellos que requieran interacción con JavaScript.
2. Gestión de Acceso:
o Incorporar control de acceso para sitios protegidos (si aplica), como inicios de sesión.
o Considerar técnicas anti-bloqueo (User-Agent Rotation, IP Proxy).
3. Almacenamiento de Datos:
o Diseñar un esquema en SQL que soporte la información recolectada.
o Implementar un procedimiento almacenado para insertar los datos en la base de datos, manejando validaciones como:
 Verificación de duplicados por URL.
 Registro de errores o inconsistencias en una tabla de logs.
4. Escalabilidad:
o Posibilidad de agregar nuevos portales sin modificar significativamente el código base.
5. Frecuencia:
o Programar ejecuciones automáticas en intervalos configurables (diario, semanal, etc.).
________________________________________
Requerimientos Técnicos
1. Lenguaje de Programación:
o Python (preferiblemente) o Node.js, utilizando frameworks como Beautiful Soup, Scrapy o Puppeteer.
2. Base de Datos:
o SQL Server o un motor compatible que permita la ejecución de procedimientos almacenados.
3. Integración con la Base de Datos:
o El programa de scraping debe ejecutar el stored procedure tras procesar cada lote de datos.
4. Manejo de Excepciones:
o Registro detallado de errores durante el scraping, almacenamiento o ejecución de stored procedures.
5. Compatibilidad:
o Diseñar la solución para que sea compatible con sistemas operativos Windows y Linux.
________________________________________
Criterios de Aceptación
1. La solución debe ser capaz de recolectar y almacenar información de al menos 5 portales de noticias iniciales.
2. La inserción en la base de datos debe completarse sin errores y siguiendo las validaciones establecidas.
3. El sistema debe ser modular para facilitar la adición de nuevos portales.
4. Los datos deben ser accesibles para consultas SQL tras su almacenamiento.
________________________________________
Project ID:
3411981
Project category:
Project budget:
View this project in detail
(Note: you will be redirected to external marketplace)
Last Projects / Browse Projects
  Project Started
Self-Help Book Completion
Category: Adobe InDesign, Editing, Format And Layout, Proofreading, Publishing
Budget: £250 - £750 GBP
08 Jul 2025 16:04 GMT
Edit and Realistic Personal Letter
Category: Copywriting, Editing, English Grammar, Java, Photo Editing, Photoshop, Technical Writing, Writing
Budget: $10 - $30 USD
08 Jul 2025 16:04 GMT
DevOps file attachments Downloader -- 2
Category: DevOps, Software Development
Budget: £20 - £250 GBP
08 Jul 2025 16:04 GMT
DevOps Attachments Download
Category: Automation, Azure, Cloud Computing, Continuous Integration, DevOps, Project Management, Scripting, Software Development
Budget: £20 - £250 GBP
08 Jul 2025 16:04 GMT
AX 2012 to Dynamics 365 Migration
Category: Database Administration, Excel, Microsoft Access, Product Management, SQL
Budget: £250 - £750 GBP
08 Jul 2025 16:04 GMT
Desarrollo de sistema de IA para llamadas telefónicas automatizadas con agendado de citas
Category: Graphic Design, HTML, PHP, Software Architecture, Web Design
Budget: $30 - $250 USD
08 Jul 2025 16:03 GMT
Freelance 3D Exhibition Stand Designer (Part-Time | Per Project Basis)
Category: 3D Animation, 3D Design, 3D Modelling, 3D Rendering, 3D Studio Max, AutoCAD, Interior Design, SketchUp, V Ray, Visual Design
Budget: ₹100 - ₹400 INR
08 Jul 2025 16:03 GMT
Casual Educational Instagram Reels
Category: 3D Animation, 3D Modelling, 3D Rendering, Animation, Blender, Content Creation, Social Media Marketing, Video Editing, Video Production, Visualization
Budget: ₹600 - ₹1500 INR
08 Jul 2025 16:03 GMT
Colorful YouTube Thumbnail Design - 08/07/2025 11:50 EDT
Category: Adobe Illustrator, Photoshop, Creative Design, Graphic Design, Illustration, Image Processing, Logo Design, Visual Design, YouTube
Budget: ₹600 - ₹1500 INR
08 Jul 2025 16:03 GMT
Canva Designer for Birthday Invitation Templates
Category: Animation, Canva, Creative Design, Digital Design, Graphic Design, Invitation Design, Visual Design
Budget: $30 - $250 USD
08 Jul 2025 16:03 GMT
Outlook and Apple Sync Specialist
Category: Computer Support, Email Handling, IPhone, Microsoft Exchange, Smart Phone / Tablet Apps, Technical Support, Troubleshooting
Budget: min $50 USD
08 Jul 2025 16:03 GMT
UK & Ireland Retail Accountant Needed -- 3
Category: Accounting, Bookkeeping, Business Analysis, Finance, Tax
Budget: £20 - £250 GBP
08 Jul 2025 16:02 GMT
Sales Navigator Contact Research
Category: Data Analysis, Data Collection, Data Entry, Data Management, Data Mining, Data Processing, Linkedin, LinkedIn Recruiting, Research, Web Search
Budget: £5 - £10 GBP
08 Jul 2025 16:00 GMT
Informative Healthcare Article Needed
Category: Article Rewriting, Content Writing, Copywriting, Medical Writing, Research Writing, Typing
Budget: ₹750 - ₹1250 INR
08 Jul 2025 16:00 GMT
Freelance WordPress Web Developer (Envato + Elementor Expert) -- 2
Category: Elementor, HTML, JavaScript, PHP, SEO, Web Development, Web Design, WordPress
Budget: $30 - $250 USD
08 Jul 2025 15:59 GMT
Browse All Projects
Projects by Skills ...
android
ajax
asp
aspnet
cms
cpp
csharp
css
delphi
design
drupal
excel
facebook
flash
html
java
javascript
joomla
iphone
mysql
photoshop
php
python
ruby
seo
sql
sysadm
translate
typing
twitter
vbnet
xml
wordpress
writing
New!
Проекты на русском
(Projects in Russian)

Copyright © 2005-2024
1001 Freelance Projects