J'ai configuré le solrindex-mapping.xml
(nutch) et configuré mon solr schema.xml
et solrconfig.xml
aussi. Les deux fonctionnent bien sur seul passage, mais si j'utilise le bin/nutch solrindex ...
-je obtenir une exception:problème par l'intégration de apache nutch (version 1.2) dans apach solr (tronc) - obtenu solr exception
org.apache.solr.common.SolrException: Document [null] missing required field: id
J'ai configuré le id
dans toutes les config-files. À solrindex-mapping.xml
il mappe de url
à id
et au schema.xml
de solr j'ai configuré l'id aussi. Je ne sais pas ce qui ne va pas. J'ajoute quelques sorties de journalisation dans org.apache.nutch.indexer.solr.SolrWriter.java
. J'ajoute un loginfo à cette ligne, quand les champs de lecture sont ajoutés à SolrInputDocument. Le résultat après construction et fonctionnement est:
2010-09-11 21:31:06,326 INFO solr.SolrWriter - write()
2010-09-11 21:31:06,327 INFO solr.SolrWriter - Key: segment, value: 20100911212934
2010-09-11 21:31:06,327 INFO solr.SolrWriter - Key: boost, value: 1.0
2010-09-11 21:31:06,327 INFO solr.SolrWriter - Key: digest, value: bc315927b7c01c7a2905d5b6872bc35b
2010-09-11 21:31:06,327 INFO solr.SolrWriter - close()
Vous ne verrez que 3 champs de lecture O_o. Est-ce que quelqu'un sait s'il y a quelque chose qui ne va pas dans ma configuration? J'ai besoin nutch de course très rapide, parce que je suis en train d'écrire ma thèse de baccalauréat:/ (sur l'intégration de l'information de sources de données hétérogènes au réseau local)
meilleurs REGARDS
marcel =)
Le reste du journal:
2010-09-11 21:31:06,079 INFO solr.SolrWriter - open()
2010-09-11 21:31:06,280 INFO solr.SolrMappingReader - source: content dest: content
2010-09-11 21:31:06,280 INFO solr.SolrMappingReader - source: site dest: site
2010-09-11 21:31:06,280 INFO solr.SolrMappingReader - source: title dest: metadata_title
2010-09-11 21:31:06,281 INFO solr.SolrMappingReader - source: host dest: host
2010-09-11 21:31:06,281 INFO solr.SolrMappingReader - source: segment dest: segment
2010-09-11 21:31:06,281 INFO solr.SolrMappingReader - source: boost dest: boost
2010-09-11 21:31:06,281 INFO solr.SolrMappingReader - source: digest dest: digest
2010-09-11 21:31:06,281 INFO solr.SolrMappingReader - source: tstamp dest: metadata_last_modified
2010-09-11 21:31:06,281 INFO solr.SolrMappingReader - source: lastModified dest: metadata_last_modified
2010-09-11 21:31:06,281 INFO solr.SolrMappingReader - source: url dest: url
2010-09-11 21:31:06,281 INFO solr.SolrMappingReader - source: url dest: id
2010-09-11 21:31:06,281 INFO solr.SolrMappingReader - source: url dest: id
2010-09-11 21:31:06,281 INFO solr.SolrMappingReader - source: url dest: url
2010-09-11 21:31:06,281 INFO solr.SolrMappingReader - uniqueKey = id
2010-09-11 21:31:06,291 INFO solr.SolrWriter - write()
2010-09-11 21:31:06,294 INFO solr.SolrWriter - Key: segment, value: 20100911212934
2010-09-11 21:31:06,294 INFO solr.SolrWriter - Key: boost, value: 1.0
2010-09-11 21:31:06,294 INFO solr.SolrWriter - Key: digest, value: 18abadd34a2bd71a8336fa5e8c6dbedb
2010-09-11 21:31:06,306 INFO solr.SolrWriter - write()
2010-09-11 21:31:06,306 INFO solr.SolrWriter - Key: segment, value: 20100911212934
2010-09-11 21:31:06,306 INFO solr.SolrWriter - Key: boost, value: 1.0
2010-09-11 21:31:06,306 INFO solr.SolrWriter - Key: digest, value: 3267fd5ea03852cdc83383635d133fad
2010-09-11 21:31:06,310 INFO solr.SolrWriter - write()
2010-09-11 21:31:06,310 INFO solr.SolrWriter - Key: segment, value: 20100911212934
2010-09-11 21:31:06,310 INFO solr.SolrWriter - Key: boost, value: 1.0
2010-09-11 21:31:06,311 INFO solr.SolrWriter - Key: digest, value: b61607602ab99eda5684adc9966349d6
2010-09-11 21:31:06,314 INFO solr.SolrWriter - write()
2010-09-11 21:31:06,314 INFO solr.SolrWriter - Key: segment, value: 20100911212851
2010-09-11 21:31:06,314 INFO solr.SolrWriter - Key: boost, value: 1.0
2010-09-11 21:31:06,314 INFO solr.SolrWriter - Key: digest, value: 9bdb8df3d1addf254203542dd22096d3
2010-09-11 21:31:06,316 INFO solr.SolrWriter - write()
2010-09-11 21:31:06,316 INFO solr.SolrWriter - Key: segment, value: 20100911212934
2010-09-11 21:31:06,316 INFO solr.SolrWriter - Key: boost, value: 1.0
2010-09-11 21:31:06,317 INFO solr.SolrWriter - Key: digest, value: 66eb3639ae15655bf91dc53208f95167
2010-09-11 21:31:06,319 INFO solr.SolrWriter - write()
2010-09-11 21:31:06,319 INFO solr.SolrWriter - Key: segment, value: 20100911212934
2010-09-11 21:31:06,319 INFO solr.SolrWriter - Key: boost, value: 1.0
2010-09-11 21:31:06,319 INFO solr.SolrWriter - Key: digest, value: 6e0501b52e204c2a68d9caa70dd0dfa9
2010-09-11 21:31:06,326 INFO solr.SolrWriter - write()
2010-09-11 21:31:06,327 INFO solr.SolrWriter - Key: segment, value: 20100911212934
2010-09-11 21:31:06,327 INFO solr.SolrWriter - Key: boost, value: 1.0
2010-09-11 21:31:06,327 INFO solr.SolrWriter - Key: digest, value: bc315927b7c01c7a2905d5b6872bc35b
2010-09-11 21:31:06,327 INFO solr.SolrWriter - close()
2010-09-11 21:31:06,687 WARN mapred.LocalJobRunner - job_local_0001
org.apache.solr.common.SolrException: Document [null] missing required field: id
Document [null] missing required field: id
request: http://127.0.0.1:8983/solr/update?wt=javabin&version=1
at org.apache.solr.client.solrj.impl.CommonsHttpSolrServer.request(CommonsHttpSolrServer.java:424)
at org.apache.solr.client.solrj.impl.CommonsHttpSolrServer.request(CommonsHttpSolrServer.java:243)
at org.apache.solr.client.solrj.request.AbstractUpdateRequest.process(AbstractUpdateRequest.java:105)
at org.apache.solr.client.solrj.SolrServer.add(SolrServer.java:49)
at org.apache.nutch.indexer.solr.SolrWriter.close(SolrWriter.java:98)
at org.apache.nutch.indexer.IndexerOutputFormat$1.close(IndexerOutputFormat.java:48)
at org.apache.hadoop.mapred.ReduceTask.runOldReducer(ReduceTask.java:474)
at org.apache.hadoop.mapred.ReduceTask.run(ReduceTask.java:411)
at org.apache.hadoop.mapred.LocalJobRunner$Job.run(LocalJobRunner.java:216)
2010-09-11 21:31:07,556 ERROR solr.SolrIndexer - java.io.IOException: Job failed!